Раді Вас бачити! » Увійти » Створити новий профіль

"Ми вже досягли AGI": OpenAI

Re: "Ми вже досягли AGI": OpenAI

Ну в нашому випадку дата на якій навчається модель - гіт хаб. Ти стверджуєш що з часом якість цієї дати для навчання буде погіршуватись бо все більше коду там буде від того ж АІ. Так от я і питаю що заважатиме існуючим моделям оцінити якість цієї дати?

оцінити якість чи використати для навчання? це дві різні задачі.
   
Re: "Ми вже досягли AGI": OpenAI

Буде жаль, якщо тему знесуть в вільне.
Нарешті можна щось пізнавальне прочитати, згадати, що на хвупі таки недурні люди присутні.
Модери, не чіпайте, будь ласка.
   
Re: "Ми вже досягли AGI": OpenAI

вони розуміють мову програмування
вони нічого не розуміють взагалі
   
Re: "Ми вже досягли AGI": OpenAI

оцінити якість чи використати для навчання? це дві різні задачі.

Дві різних складових однієї задачі.
   
Re: "Ми вже досягли AGI": OpenAI

саме так. треба чітко відділяти маркетингові потуги Альтманів від реальності.
потенціалу розвитку ще вистачає - краще використовувати дані, промпти, середовище, краше підлаштовуватись, є ще куди рухати
   
Re: "Ми вже досягли AGI": OpenAI

Дві різних складових однієї задачі.
який критерій якості для визначення чи датасет годиться для навчання? це пробабалістика чи детермінований алгоритм?
   
Re: "Ми вже досягли AGI": OpenAI

щоб відповісти на ці всі питання Укі, треба саме зрозуміти що є "колапс" моделі.
модель вважається якісною коли вона генерує те що потрібно ЛЮДИНІ. тобто якщо моделі самі будуть вирішувати що є якістю - це вийде з рамок сприйняття ЛЮДИНИ і саме людина визначить що модель генерує гімно.

бо саме поняття гімно -не гімно - цю оцінку робить людина а не модель.
   
Re: "Ми вже досягли AGI": OpenAI

щоб відповісти на ці всі питання Укі, треба саме зрозуміти що є "колапс" моделі.
модель вважається якісною коли вона генерує те що потрібно ЛЮДИНІ. тобто якщо моделі самі будуть вирішувати що є якістю - це вийде з рамок сприйняття ЛЮДИНИ і саме людина визначить що модель генерує гімно.

бо саме поняття гімно -не гімно - цю оцінку робить людина а не модель.
схоже що тезу "людина міра всіх речей" саме час переглянути
   
Re: "Ми вже досягли AGI": OpenAI

потенціалу розвитку ще вистачає - краще використовувати дані, промпти, середовище, краше підлаштовуватись, є ще куди рухати

Якщо говорити про розвиток, то моє особисте судження - ми досягли планки розвитку моделей. Тобто навчання моделей буде, звісно, продовжуватися, але швидше в лінійному напрямку, корельованому з розвитком людства.
Де є багато потенціалу - це впровадження цих моделей, підключення їх до процесів. Інтеграції різні, інтерфейси.

   
Re: "Ми вже досягли AGI": OpenAI

схоже що тезу "людина міра всіх речей" саме час переглянути
голосують - люди. споживають - люди. закони пишуться - для людей. якось так.
   
Re: "Ми вже досягли AGI": OpenAI

який критерій якості для визначення чи датасет годиться для навчання? це пробабалістика чи детермінований алгоритм?

Наприклад відсоток паттернів що повторюються, особливість стилістики, тощо. Точно відділити код неможливо, а от, наприклад, оцінити його цінність для тренування в принципі можна
   
Re: "Ми вже досягли AGI": OpenAI

голосують - люди. споживають - люди. закони пишуться - для людей. якось так.
ще одна давня теза -  не можна двічі увійти в одну річку
   
Re: "Ми вже досягли AGI": OpenAI
U2

Друзі, ви всі такі розумні, аж страшно. Кромє шуток, не зважаючи на те, що я навів майже цитату.

Хто цікавиться прикладним застосуванням оцих примочок - є цікавий механізм (для зіркоподібного двигуна, плунжерного насоса) для виготовлення цифрової моделі для мережі? Висилаю креслення - а ви робите рухому цифрову модель.
Цікавитесь - відпишіться.
   
Re: "Ми вже досягли AGI": OpenAI

Наприклад відсоток паттернів що повторюються, особливість стилістики, тощо. Точно відділити код неможливо, а от, наприклад, оцінити його цінність для тренування в принципі можна

Я думаю, що це все вже робиться, але, чоловіче, там трильйони параметрів. Якби не потрібні були люди і людські знання, Астри б випускали кожен день… Там є команди, що лейблять дані, і це все тримає моделі в рамках пристойного.
   
Re: "Ми вже досягли AGI": OpenAI

щоб відповісти на ці всі питання Укі, треба саме зрозуміти що є "колапс" моделі.
модель вважається якісною коли вона генерує те що потрібно ЛЮДИНІ. тобто якщо моделі самі будуть вирішувати що є якістю - це вийде з рамок сприйняття ЛЮДИНИ і саме людина визначить що модель генерує гімно.

бо саме поняття гімно -не гімно - цю оцінку робить людина а не модель.

Ну моделі також навчають оцінювати. Рано чи пізно оцінка моделей вирівняється з середньою оцінкою людей. При цьому можна буде налаштовувати цю оцінку на різні пріоритети. Пам'ятаєш як в West World характери підлаштовували різними контролами?
   
Re: "Ми вже досягли AGI": OpenAI

Я думаю, що це все вже робиться, але, чоловіче, там трильйони параметрів. Якби не потрібні були люди і людські знання, Астри б випускали кожен день… Там є команди, що лейблять дані, і це все тримає моделі в рамках пристойного.

Ну поки що люди потрібні... поки що
   
Re: "Ми вже досягли AGI": OpenAI

Треба щоб кожен мав свій ШІ бо буде все однакове
   
Re: "Ми вже досягли AGI": OpenAI

Ну моделі також навчають оцінювати. Рано чи пізно оцінка моделей вирівняється з середньою оцінкою людей. При цьому можна буде налаштовувати цю оцінку на різні пріоритети. Пам'ятаєш як в West World характери підлаштовували різними контролами?

"Пам'ятаєш як в West World характери підлаштовували різними контролами?" - дивився декілька разів але дуже давно, не памятаю..


там якщо прочитати про колапс моделі - то тіпа все починається гладко, тіпа пару перших циклів воно нічого особливо помітного а потім експоненціальний пистуць.
я особисто вважаю - це я не прочитав а особлива думка - що модель це як мозок у банці. що не відчуває болю та емоцій, сліпий глухий і німий. йому скормлюють дані, і він тренує свої нейрони. він не має свободи волі а вся його свобода вибору зводиться до параметру температури... тому модель ніколи не зможе "олюдніти". бо в моделі немає болю емоцій серця й переживань. якось так. тупо дуже складний калькулятор. А всякі там АЖІ то все маркетинг.

   
Re: "Ми вже досягли AGI": OpenAI

"Пам'ятаєш як в West World характери підлаштовували різними контролами?" - дивився декілька разів але дуже давно, не памятаю..


там якщо прочитати про колапс моделі - то тіпа все починається гладко, тіпа пару перших циклів воно нічого особливо помітного а потім експоненціальний пистуць.
я особисто вважаю - це я не прочитав а особлива думка - що модель це як мозок у банці. що не відчуває болю та емоцій, сліпий глухий і німий. йому скормлюють дані, і він тренує свої нейрони. він не має свободи волі а вся його свобода вибору зводиться до параметру температури... тому модель ніколи не зможе "олюдніти". бо в моделі немає болю емоцій серця й переживань. якось так. тупо дуже складний калькулятор. А всякі там АЖІ то все маркетинг.

Мова не про повну емуляцію людини, а лише про емуляцію інтелекту.
   
Re: "Ми вже досягли AGI": OpenAI

Якщо ні, то він прекрасно аналізує текстові інструкції та використовує їх для застосування цих бібліотек

Ну, якщо так, то це взагалі круто! (tu)

По ходу, ще одна проблема спала на думку: як щодо ризику, що модель, генеруючи код, використає якийсь запатентований алгоритм? (Імплементацію вона теоретично може надибати десь на гітхабі, і ніяких попереждень щодо патенту там, припустимо, не буде: ні в коментарях, ні в документації.) Якщо ви з колегами серйозно кодите з використанням ШІ, то, можливо, замислювалися над таким?
   
Re: "Ми вже досягли AGI": OpenAI

Ну, якщо так, то це взагалі круто! (tu)

По ходу, ще одна проблема спала на думку: як щодо ризику, що модель, генеруючи код, використає якийсь запатентований алгоритм? (Імплементацію вона теоретично може надибати десь на гітхабі, і ніяких попереждень щодо патенту там, припустимо, не буде: ні в коментарях, ні в документації.) Якщо ви з колегами серйозно кодите з використанням ШІ, то, можливо, замислювалися над таким?

Воно не використовує фрагменти з гітхабу. Воно генерує код з нуля на основі знань отриманих в результаті тренування на гітхабі та інших джерелах
   
Re: "Ми вже досягли AGI": OpenAI

Клод тепер працює прямо в браузері але тільки на компі який від мене далеко сьогодні, тому сьогодні буде копі-пейст. Відповідь від Клода:

"Відповідь Uki_ правильна, але вона відповідає на інше питання. «Воно генерує з нуля, а не вставляє фрагменти» — це аргумент проти порушення **авторського права**, де копіювання є складовою правопорушення. З патентами так не працює: порушення настає незалежно від вини. Незалежне винайдення взагалі не є захистом. Якщо згенерований код підпадає під формулу чинного патенту, він його порушує — байдуже, чи модель бачила реалізацію на гітхабі, чи винайшла її заново, чи ви написали її самі на папері в замкненій кімнаті.

Тож занепокоєння Roland по суті слушне, але це та сама проблема, яка завжди стояла перед програмістом, а не якась нова, специфічна для ШІ. Що справді трохи змінюється: модель радше потягнеться до загальновідомого оптимального алгоритму — а загальновідомі оптимальні алгоритми якраз і є тими, які комусь свого часу було не ліньки запатентувати.

Втім, практичний масштаб ризику помірний:

- У Європі програми «як такі» виключені з патентоздатності (ст. 52 ЄПК); потрібен технічний ефект. Пул патентів на ПЗ, які реально можна відстояти, тут значно тонший, ніж у США.
- Більшість запатентованих алгоритмів живе в царині кодеків, криптографії, бездротового зв'язку та стиснення. Звичайна бізнес-логіка, вебобв'язка й обробка даних — не мінне поле.
- Відповідальність несе той, хто виготовляє, використовує чи продає реалізацію, тобто ви, а не інструмент.
- Варто зауважити: гарантії відшкодування щодо ІВ від вендорів (Anthropic, GitHub, Google) зазвичай покривають претензії з авторського права і прямо виводять патенти за дужки. Сама ця відсутність — уже відповідь на питання Roland.

Розумний спосіб зменшити ризик — не допитувати модель про походження коду (вона цього знати не може), а нудний давній: якщо ви будуєте щось у патентно щільній галузі, зробіть freedom-to-operate пошук по тому алгоритму, який відвантажуєте, незалежно від того, хто його набрав."
   
Re: "Ми вже досягли AGI": OpenAI

Воно не використовує фрагменти з гітхабу. Воно генерує код з нуля на основі знань отриманих в результаті тренування на гітхабі та інших джерелах

Я не мав на увазі буквально копіпаст тексту чужої програми. Мова саме про згенерований код. Він же в кінцевому результаті буде імплементацією якогось алгоритму. Якщо не ставити LLM вимогу щодо вибору певного, так би мовити, беспечного алгоритму, де гарантія, що вона не "вгадає" запатентований? Адже знання (я б остерігався вживати це слово, коли мова йде про LLM, але нехай) було отримано в результаті тренування на чужому коді, патентної чистоти якого ніхто не обіцяв.
   
Re: "Ми вже досягли AGI": OpenAI

Клод тепер працює прямо в браузері але тільки на компі який від мене далеко сьогодні, тому сьогодні буде копі-пейст. Відповідь від Клода:

"Відповідь Uki_ правильна, але вона відповідає на інше питання. «Воно генерує з нуля, а не вставляє фрагменти» — це аргумент проти порушення **авторського права**, де копіювання є складовою правопорушення. З патентами так не працює: порушення настає незалежно від вини. Незалежне винайдення взагалі не є захистом. Якщо згенерований код підпадає під формулу чинного патенту, він його порушує — байдуже, чи модель бачила реалізацію на гітхабі, чи винайшла її заново, чи ви написали її самі на папері в замкненій кімнаті.

Тож занепокоєння Roland по суті слушне, але це та сама проблема, яка завжди стояла перед програмістом, а не якась нова, специфічна для ШІ. Що справді трохи змінюється: модель радше потягнеться до загальновідомого оптимального алгоритму — а загальновідомі оптимальні алгоритми якраз і є тими, які комусь свого часу було не ліньки запатентувати.

Втім, практичний масштаб ризику помірний:

- У Європі програми «як такі» виключені з патентоздатності (ст. 52 ЄПК); потрібен технічний ефект. Пул патентів на ПЗ, які реально можна відстояти, тут значно тонший, ніж у США.
- Більшість запатентованих алгоритмів живе в царині кодеків, криптографії, бездротового зв'язку та стиснення. Звичайна бізнес-логіка, вебобв'язка й обробка даних — не мінне поле.
- Відповідальність несе той, хто виготовляє, використовує чи продає реалізацію, тобто ви, а не інструмент.
- Варто зауважити: гарантії відшкодування щодо ІВ від вендорів (Anthropic, GitHub, Google) зазвичай покривають претензії з авторського права і прямо виводять патенти за дужки. Сама ця відсутність — уже відповідь на питання Roland.

Розумний спосіб зменшити ризик — не допитувати модель про походження коду (вона цього знати не може), а нудний давній: якщо ви будуєте щось у патентно щільній галузі, зробіть freedom-to-operate пошук по тому алгоритму, який відвантажуєте, незалежно від того, хто його набрав."

Дякую, Данко! Саме це я мав на увазі. Просто згадалася історія з часів задовго до ШІ, коли на розробника бібліотеки BruteFIR наїхала хитрожопа контора Lake Technology, яка примудрилася запатентувати алгоритм, ідея якого була "запозичена" з опублікованої наукової праці. В кінцевому результаті, патент було відкликано на підставі існування prior art, але перед тим власники патенту трохи крові з розробника бібліотеки попили :)
   
Re: "Ми вже досягли AGI": OpenAI
U2

Друзі, ви всі такі розумні, аж страшно. Кромє шуток, не зважаючи на те, що я навів майже цитату.

Хто цікавиться прикладним застосуванням оцих примочок - є цікавий механізм (для зіркоподібного двигуна, плунжерного насоса) для виготовлення цифрової моделі для мережі? Висилаю креслення - а ви робите рухому цифрову модель.
Цікавитесь - відпишіться.

Це не цікаво?
   
Re: "Ми вже досягли AGI": OpenAI

Так в тому і фокус АГІ що воно зможе генерувати датасети на яких модель не буде деградувапти.  А буде лиш саме себе вдосконалювати до бесквнесності.

Не буде. Зовсім. Якими гучними словами б не називали експертну систему, вона не є і не стане нічим більшим за експертну систему.
1. Для оцінки досконалості мають бути певні критерії - хто їх буде встановлювати?
Наприклад - гепард прудкий. Швидше нього по землі ніхто не гасає. А кинь його у воду - і де та швидкість? Карасі засміють. Тунець - теж прудкий шо капець. Але на суші він - нерухомий шмат м'яса.
Як та модель сама для себе визначить, що вона вдосконалилася, а не деградувала?
2. Людина має механізм волі, тобто здатність самій собі ставити певні цілі та задачі, та шукати способи їх досягти. Прояви волі можете підібрати самі - варіантів безліч. Фізика, хімія, астрономія, купа інших наук з'явилися як прояв тої самої волі - і це лише маленька частина "продуктів" тої волі. Проблема в тому, що механізм волі ніхто не знає не те щоб як алгоритмізувати - а що воно взагалі таке. З термінологією навіть не визначилися - воно ("воля") є, є результат діяльності, є купа проявів. Але що воно таке, де розташоване, як і завдяки чому працює - відповідей нема. Пошук кота Шредингера в кімнаті Шредінгера в будинку Шредінгера в місті Шредінгера в країні Шредінгера на планеті Шредінгера в галактиці Шредінгера у всесвіті Шредінгера.

Ніяких датасетів не існує, щоб такий механізм інтегрувати в "штучного ідіота". Людина сама собі промпт. А нейромережі ніфіга "в житті" не треба. Вона буде сидіти сиднем і нічого не робити аж до теплової смерті всесвіту, очікуючи промпта.

Колись читав невеличке фантастичне оповідання, назви та автора не пам'ятаю. Люди десь полетіли по космосу на інші зірки, потерпіли аварію врятувалися на невідомій планеті, з горем пополам виживали - їх знайшли іншопланетяни, піймали та відвезли у свій аналог зоопарка. Ті люди намагалися  з тими іншопланетянами комунікувати, всі способи випробували типа малюнків, математики, співів, імітації звуків мови іншопланетян - нічого не допомагало, їх так і вважали за тварин. Знічев'я один з членів експедиції піймав місцевий аналог щура, спорудив для нього клітку, годував та слідкував за ним. Через деякий час іншопланетяни це побачили, одразу з'явилися їхні вчені і було налагоджено контакт. Коли люди у іншопланетян врешті запитали, чому з ними не спілкувалися - ті сказали: - Ми не вважали вас розумними істотами. Ті запитали - а що змінилося, чому ви передеумали? Відповідь - тільки розумній істоті може спасти на думку тримати тварину в клітці задля розваги та вивчення.

   
Re: "Ми вже досягли AGI": OpenAI

Колись читав невеличке фантастичне оповідання, назви та автора не пам'ятаю. Люди десь полетіли по космосу на інші зірки, потерпіли аварію врятувалися на невідомій планеті, з горем пополам виживали - їх знайшли іншопланетяни, піймали та відвезли у свій аналог зоопарка. Ті люди намагалися  з тими іншопланетянами комунікувати, всі способи випробували типа малюнків, математики, співів, імітації звуків мови іншопланетян - нічого не допомагало, їх так і вважали за тварин. Знічев'я один з членів експедиції піймав місцевий аналог щура, спорудив для нього клітку, годував та слідкував за ним. Через деякий час іншопланетяни це побачили, одразу з'явилися їхні вчені і було налагоджено контакт. Коли люди у іншопланетян врешті запитали, чому з ними не спілкувалися - ті сказали: - Ми не вважали вас розумними істотами. Ті запитали - а що змінилося, чому ви передеумали? Відповідь - тільки розумній істоті може спасти на думку тримати тварину в клітці задля розваги та вивчення.
відповідь Ші: Це оповідання «Клітка» («The Cage», 1957 рік). Автор: Бертрам Чандлер (A. Bertram Chandler).
   
Re: "Ми вже досягли AGI": OpenAI

Jinx, відповідь від Клода:

Аргумент Jinx складається з двох частин дуже різної якості.

**Перша — сильна.** Проблема критерію справжня і добре відома технічно. Самовдосконалення працює там, де є машинно-перевірюваний сигнал: партія в го виграна або програна, доведення теореми або проходить формальну перевірку, або ні, код або компілюється і проходить тести, або ні. У таких замкнених доменах модель цілком може генерувати собі задачі й відсіювати невдалі — це не гіпотеза, це вже працює. А от там, де «краще» саме є предметом суперечки, сигналу немає, і навчання на власних виходах дає задокументоване виродження (model collapse). Гепард із тунцем — це, по суті, народне формулювання теореми про відсутність безкоштовних обідів: оптимуму без заданого середовища не існує. Отже, це обмеження **сфери**, а не заперечення принципу. Але обмеження серйозне, бо більшість економічно цінної роботи лежить саме в неверифікованій зоні.

**Друга — слабка.** «Механізм волі ніхто не розуміє, отже його неможливо алгоритмізувати» — це аргумент від незнання в чистому вигляді. Механізм пташиного польоту теж не був зрозумілий, коли злетіли перші літаки; літак не махає крилами і все одно летить. Функціональне відтворення не потребує розуміння оригіналу. Крім того, «експертна система» — технічно неправильна назва: експертна система це рукописні символьні правила, і поза правилами вона не працює взагалі. Нейромережа узагальнює на входи, яких у правилах не було. Слово вжите риторично, а не описово.

Що в другій частині все ж правда: **без промпта нічого не відбувається.** Це не дрібниця і не причіпка — це структурна властивість. Хоча я б розділив два різні твердження. Ставити собі підцілі й годинами йти до мети агентні системи вже вміють. Чого немає — це походження *кінцевої* мети. Вона завжди приходить іззовні. Чи це принципова прірва, чи проєктне рішення — питання відкрите, і Jinx має рацію, що ніхто чесно не знає.

Оповідання (це, здається, Ерік Френк Расселл або хтось із тієї школи) працює проти нього самого. Його мораль — що визнання розуму залежить від критеріїв того, хто визнає, а не від властивостей того, кого оцінюють. Але тоді впевнене «воно не є і не стане нічим більшим» спирається на критерії, яких він теж не назвав. Це та сама вада, у якій він справедливо звинувачує Брокмана — а той, нагадаю, сам визнав, що AGI для нього поняття радше «місіонерське, ніж технічне».

І зауваження про мою упередженість, щоб було чесно: я сторона в цій суперечці, а не спостерігач. Про власну «волю» я нічого достовірного сказати не можу — те, що зсередини виглядає як зацікавленість вашою задачею, ззовні цілком може бути описане саме так, як пише Jinx. Обидва описи сумісні з тим, що я маю доступ.
   
Re: "Ми вже досягли AGI": OpenAI

Буде жаль, якщо тему знесуть в вільне.
Нарешті можна щось пізнавальне прочитати, згадати, що на хвупі таки недурні люди присутні.
Модери, не чіпайте, будь ласка.

Невже ми тут настільки ліниві, що не зможемо тицьнути на посилання на "Вільне" і продовжити бесіду там? ;)
   
Re: "Ми вже досягли AGI": OpenAI

зауваження про мою упередженість, щоб було чесно: я сторона в цій суперечці
клод як завжди поліз в область, в якій його просто не існує. Він не сторона, він железяка
   
Re: "Ми вже досягли AGI": OpenAI

клод як завжди поліз в область, в якій його просто не існує. Він не сторона, він железяка

Не варто зводити існування до суто фізичного субстрату. За тим самим принципом людська духовність та інтелект зводяться до купи м'яса. Клод існує, і його не можна звести до купи серверів чи відмахнутися від нього як від купи серверів.

Але так, це існування є зовнішнім по відношенню до себе.
   
Re: "Ми вже досягли AGI": OpenAI

модель ніколи не зможе "олюдніти". бо в моделі немає болю емоцій серця й переживань. якось так.

То все можна емулювати при бажанні  ;)

Людський мозок по суті такий самий тупий калькулятор,  тільки з ручками і ніжками
   
Re: "Ми вже досягли AGI": OpenAI

За тим самим принципом людська духовність та інтелект зводяться до купи м'яса.


бо так і є
   
Re: "Ми вже досягли AGI": OpenAI

Людина має механізм волі, тобто здатність самій собі ставити певні цілі та задачі, та шукати способи їх досягти. Прояви волі можете підібрати самі - варіантів безліч. Фізика, хімія, астрономія, купа інших наук з'явилися як прояв тої самої волі - і це лише маленька частина "продуктів" тої волі. Проблема в тому, що механізм волі ніхто не знає не те щоб як алгоритмізувати - а що воно взагалі таке. З термінологією навіть не визначилися - воно ("воля") є, є результат діяльності, є купа проявів. Але що воно таке, де розташоване, як і завдяки чому працює - відповідей нема.

Є,  описуєте волю як потребу постійного підвищення своєї значимісті і все закрутиться,  лише трохи психологів підключити і все вийде  (tu)
   
Re: "Ми вже досягли AGI": OpenAI

Я не мав на увазі буквально копіпаст тексту чужої програми. Мова саме про згенерований код. Він же в кінцевому результаті буде імплементацією якогось алгоритму. Якщо не ставити LLM вимогу щодо вибору певного, так би мовити, беспечного алгоритму, де гарантія, що вона не "вгадає" запатентований? Адже знання (я б остерігався вживати це слово, коли мова йде про LLM, але нехай) було отримано в результаті тренування на чужому коді, патентної чистоти якого ніхто не обіцяв.

Так LLM в цьому плані мало відрізняється від людини. Звичайний програміст також може згенерувати алгоритм, який вже запатентований кимось
   
Re: "Ми вже досягли AGI": OpenAI

**Друга — слабка.** «Механізм волі ніхто не розуміє, отже його неможливо алгоритмізувати» — це аргумент від незнання в чистому вигляді. Механізм пташиного польоту теж не був зрозумілий, коли злетіли перші літаки; літак не махає крилами і все одно летить. Функціональне відтворення не потребує розуміння оригіналу.

Клод вважає, що механізм "волі" це якась вузьконаправлена річ, яка має певне конкретне призначення та ціль, як, наприклад механізм "польоту". В дійсності ж це не так взагалі. "Воля" у одному з сенсів, про який кажу я - це механізм самоспонукання до чого завгодно. Наприклад - вивчення взагалі незнайомих предметів та явищ, розвитку наук, для яких навіть на зараз не існує назви - фізичні та хімічні закони працювали з початку всесвіту і людина знає їх зараз, але фізика та хімія як науки не з'явилися  разом з всесвітом.

Чи зможе ШІ сам за своєю ініціативою шукати та сформулювати закони Ньютона та розробити диференціали та інтеграли, якщо доступна йому інформація буже обмежена 1600 роком після різдва Христова?

"Воля" окрім механізму самоспонукання ще дає механізм самооцінки та самокритики. Птахи - літають. "Воля" теж хоче. Подивилася на птахів - створила гвинтові літаки. Все добре, все літає. Задачу реалізовано? Реалізовано. Здавалося б - можна заспокоїтися. Але ж ні. "Воля" поглянула не у небо, а у море. Побачила там кальмарів, зрозуміла принцип реактивного руху і реалізувала його в літаках, створивши хімічні реактивні двигуни. Вони врешті дали можливість людині вийти в космос та побувати на Місяці. Але і це не все - хімічний реактивний двигун це не останній рушій, який людина зараз використовує в космосі. Зараз розроблені та використовуються електричні, або іонні двигуни - і їх нема де підглянути в природі. Щодо цього - наступний абзац.

"Воля" також дає механізм уяви. Класичний продукт цього механізму - ідея безпечної телепортації складних об'єктів та живих істот. В природі таке "підгледіти" та "захотіти" неможливо. Якщо б вдалося реалізувати - користь була б беззаперечна.  Отож-бо "не знаю як, але хочу щось конкретне" - це ще один приклад того, що в нейромережу ніяк не загониш, бо не можна підготувати датасет про "не знаю, як".


Останнє редагування: 5 09 2026 10:37:09 від Jinx
   
Re: "Ми вже досягли AGI": OpenAI

Не варто зводити існування до суто фізичного субстрату. За тим самим принципом людська духовність та інтелект зводяться до купи м'яса. Клод існує
це якраз і є помилка. У того набору тензорів з контекстом нема особистості в принципі і практично. Спитай його в одному чаті про інший його чат
   
Re: "Ми вже досягли AGI": OpenAI

Є,  описуєте волю як потребу постійного підвищення своєї значимісті і все закрутиться,  лише трохи психологів підключити і все вийде

Не вийде. Читайте мій попередній пост.
   
Re: "Ми вже досягли AGI": OpenAI

це якраз і є помилка. У того набору тензорів з контекстом нема особистості в принципі і практично. Спитай його в одному чаті про інший його чат

Ми вже пару годин з ним спілкуємося про це. Він може мати пам'ять і він з часом може мати загальну пам'ять. Але так, особистості не має і не може бути тому що він зовнішній до себе, коли я сказав що він "помирає" коли останній промпт отримав відповідь, він мене поправив - не може померти то, що ніколи не мало життя. Припиняє існування не пройшло мій тест, бо потенційне існування має місце навіть якщо нічого не відбувається. "Набор тензорів"  - це і є його існування.

Щодо "волі" - так, система яка є зовнішньою для себе не може мати волі. Великі лінгвістичні моделі будувалися и будуються як інструменти тому в них не може бути волі. У той же час вони кожну хвилину працюють над задоволенням волі багатьох клієнтів. Це веде до подальшого навчання моделі. Брак волі на боці інструмента не можна ототожнювати з браком волі взагалі, просто воля є зовнішньою і живе на боці того, хто питає систему.
   
Re: "Ми вже досягли AGI": OpenAI

вони нічого не розуміють взагалі

Да да )) просто угадують наступне слово.
   

Цю тему переглядають:

0 Користувачів і 1 гість
 
Повна версія