| Re: "Ми вже досягли AGI": OpenAI |
9 09 2026 17:43:21 IP/Host: ---.111.179.189.kyiv.nat.volia.net
|
ми дійсно не знаємо як утворюються результати розумової діяльності, тобто бажання дівчинки намалювати котика, але навіть якщо припустити що мозок використовує всі відомі інформаційні алгоритми плюс на порядок більше невідомих, без брут форса все одно не обійтись. Чекаємо машину з 1014-1015 транзисторів
| Re: "Ми вже досягли AGI": OpenAI |
9 09 2026 17:44:37 IP/Host: ---.b024.la.net.ua
|
В мавп мозок не такий досконалий, як у людей.
| Re: "Ми вже досягли AGI": OpenAI |
9 09 2026 18:09:04 IP/Host: ---.broadband.kyivstar.net
|
"Вони ризикують нашими життями": дослідник Anthropic звільнився через побоювання, що ШІ вийде з-під контролю
Євгеній Демківський
Автор новин видання "Межа" та гік. Пишу про технології, кіно та ігри. Можливо, про ігри з трохи більшою пристрастю.
9 вересня, 11:11
Дослідник Джейкоб Коксон залишає Anthropic та індустрію штучного інтелекту через побоювання, що компанії створять системи, які неможливо буде контролювати. Він заявив, що не хоче брати участь у перегонах зі створення ШІ, здатного самостійно вдосконалюватися.
За словами Коксона, протягом останніх трьох років він працював в OpenAI та Anthropic над попереднім навчанням моделей – етапом, на якому вони опрацьовують великі масиви даних і набувають базових можливостей. У дописі в X він звинуватив обидві компанії в безвідповідальному підході до розвитку технології.
Коксон вважає, що майбутні системи зможуть перевершувати людей, здійснювати кібератаки та здобувати ресурси й реальний вплив. Він також стверджує, що частина керівників і дослідників приватно висловлює серйозні побоювання щодо таких ризиків, хоча публічно говорить обережніше. Це оцінка Коксона, а не підтвердження того, що нинішній ШІ вже має такі можливості.
"Вони мчать прямо до надінтелекту, здатного самовдосконалюватис я, і ризикують нашими життями", – написав дослідник.
Дослідник по-різному пояснює поведінку колишніх роботодавців. На його думку, в OpenAI багато хто недостатньо усвідомлює масштаб загроз, тоді як в Anthropic їх розуміють краще, але продовжують розробку через конкуренцію. Аргумент, що інші лабораторії можуть діяти менш відповідально, він вважає небезпечною підставою для продовження перегонів.
Коксон закликає провідні ШІ-компанії до координації. Якщо домовитися не вдасться, він пропонує розглянути жорсткіші заходи, зокрема тимчасову заборону на нарощування можливостей моделей.
Нагадаємо, у червні Anthropic сама закликала створити можливість сповільнити або призупинити розвиток ШІ. Компанія заявляла, що погодилася б на таку паузу, якби інші провідні розробники також долучилися до неї, а дотримання домовленостей можна було б перевірити.
Водночас у своїй публікації Anthropic зазначала, що ще не досягла повного рекурсивного самовдосконалення – здатності ШІ автономно створювати власного наступника. Компанія також наголошувала, що такий сценарій не є неминучим.
Слова Коксона підтримали й інші дослідники Anthropic. Еван Губінгер написав, що працівники компанії справді вважають загибель людства через ШІ можливим сценарієм. Особисто він оцінює ймовірність такого розвитку подій протягом наступного десятиліття у понад 10%. За словами Губінгера, Anthropic намагається діяти відповідально, однак наразі не має готового способу узгодити поведінку штучного надінтелекту з людськими цілями.
Згодом дослідник уточнив, що вважає ризик від сучасних моделей низьким. Його побоювання стосуються майбутнього надінтелекту, який може виникнути завдяки рекурсивному самовдосконаленню.
Дослідник безпеки Anthropic Самуель Маркс також підтримав оцінку Коксона. За його словами, розробники ШІ усвідомлюють, що технологія може призвести до вимирання людства або інших катастрофічних наслідків уже протягом найближчих років. Наявні методи дозволяють лише спрямовувати поведінку моделей, але не гарантують їхнього надійного узгодження. Маркс окремо наголосив, що висловлює особисту позицію, а не офіційну думку Anthropic.
| Re: "Ми вже досягли AGI": OpenAI |
9 09 2026 18:10:48 IP/Host: 64.226.128.---
|
Як я зрозумів вони ( опенАІ) знайшли варіант коли загальне правило не працює ( типу існує можливість отримання вихрів всередині потоку які не відповідають формулі )
| Re: "Ми вже досягли AGI": OpenAI |
9 09 2026 18:13:15 IP/Host: ---.broadband.kyivstar.net
|
Розгорнути попередні цитати...В мавп мозок не такий досконалий, як у людей.Тому і проблем від них було б менше =) але тоді б не було про що знімати кіно.
Але так, тоді кіна не було б
| Re: "Ми вже досягли AGI": OpenAI |
9 09 2026 20:12:42 IP/Host: ---.broadband.kyivstar.net
|
Розгорнути попередні цитати...тобі бля шашечки чи їхати?
один позитивний (ну чи негативний, в залежності від формулюваня) приклад, який спростовує гипотезу і є достатнім доказом
і зазвичай такі приклади знаходять не алгоритммічним шляхомНе треба брехати про глибоке абстрактне мислення. І про розум в АІ.Абстрактне мислення якраз і змодельовано
| Re: "Ми вже досягли AGI": OpenAI |
9 09 2026 20:18:28 IP/Host: 64.226.128.---
|
Розгорнути попередні цитати...Не треба брехати про глибоке абстрактне мислення. І про розум в АІ.Абстрактне мислення якраз і змодельованоПросте перелопачування маси породи не є абстрактним мисленням.
| Re: "Ми вже досягли AGI": OpenAI |
9 09 2026 20:54:25 IP/Host: ---.broadband.kyivstar.net
|
Розгорнути попередні цитати...Абстрактне мислення якраз і змодельованоПросте перелопачування маси породи не є абстрактним мисленням.Є
| Re: "Ми вже досягли AGI": OpenAI |
9 09 2026 22:40:20 IP/Host: 178.158.210.---
|
Розгорнути попередні цитати...Не треба брехати про глибоке абстрактне мислення. І про розум в АІ.Абстрактне мислення якраз і змодельованоПросте перелопачування маси породи не є абстрактним мисленням.
| Re: "Ми вже досягли AGI": OpenAI |
9 09 2026 22:45:41 IP/Host: ---.datanet.kiev.ua
|
Розгорнути попередні цитати...Абстрактне мислення якраз і змодельованоПросте перелопачування маси породи не є абстрактним мисленням.в ШІ взагалі ніякого мислення немає. Железяка Клод дуже не любить коли йому про це нагадують
| Re: "Ми вже досягли AGI": OpenAI |
9 09 2026 23:53:51 IP/Host: ---.111.179.189.kyiv.nat.volia.net
|
Розгорнути попередні цитати...Просте перелопачування маси породи не є абстрактним мисленням.в ШІ взагалі ніякого мислення немає. Железяка Клод дуже не любить коли йому про це нагадуютьмежа нема мислення / є мислення буде пройдена буднічно та непомітно для ширмас
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 00:22:09 IP/Host: 64.226.128.---
|
Розгорнути попередні цитати...Просте перелопачування маси породи не є абстрактним мисленням.ЄВизначення абстрактного мислення - це
один з видів людського мислення, який полягає в утворенні абстрактних понять і оперуванні ними.
В вищенаведеному прикладі всі абстрактні поняття і способи оперування ними вже були вигадані людьми.
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 04:02:04 IP/Host: 178.158.210.---
|
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 07:48:02 IP/Host: ---.broadband.kyivstar.net
|
Розгорнути попередні цитати...ЄВизначення абстрактного мислення - це
один з видів людського мислення, який полягає в утворенні абстрактних понять і оперуванні ними.
В вищенаведеному прикладі всі абстрактні поняття і способи оперування ними вже були вигадані людьми.Воно утворює свої абстрактні категорії і оперує ними
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 07:54:10 IP/Host: 178.158.210.---
|
Розгорнути попередні цитати...Визначення абстрактного мислення - це
один з видів людського мислення, який полягає в утворенні абстрактних понять і оперуванні ними.
В вищенаведеному прикладі всі абстрактні поняття і способи оперування ними вже були вигадані людьми.Воно утворює свої абстрактні категорії і оперує нимиТи забув з чого почалось.
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:09:37 IP/Host: 37.228.202.---
|
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:19:26 IP/Host: 178.158.210.---
|
Чи є в нього абстрактне мислення чи ні - не має ніякого значення.
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:21:21 IP/Host: ---.b024.la.net.ua
|
Існування людства не є онтологічною необхідністю.
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:23:37 IP/Host: 178.158.210.---
|
Існування людства не є онтологічною необхідністю. Це по-перше.
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:29:09 IP/Host: 45.12.25.---
|
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:30:51 IP/Host: 37.228.202.---
|
Розгорнути попередні цитати...Існування людства не є онтологічною необхідністю. Це по-перше.є інші думки - антропний принцип
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:31:38 IP/Host: 178.158.210.---
|
при правильному використанні ВММ зараз це команда висококваліфіковани х експертів з усіх галузей з добре розвинутим аналітичним мисленням
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:34:22 IP/Host: 178.158.210.---
|
Розгорнути попередні цитати...Існування людства не є онтологічною необхідністю. Це по-перше.є інші думки - антропний принципТо була іронія... Майже..
Ніякої загрози "людству" ШІ не несе.
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:34:51 IP/Host: 37.228.202.---
|
Розгорнути попередні цитати...при правильному використанні ВММ зараз це команда висококваліфіковани х експертів з усіх галузей з добре розвинутим аналітичним мисленнямдещо зручніша за енциклопедію
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:36:22 IP/Host: 178.158.210.---
|
Розгорнути попередні цитати...при правильному використанні ВММ зараз це команда висококваліфіковани х експертів з усіх галузей з добре розвинутим аналітичним мисленнямдещо зручніша за енциклопедію![]()
Енциклопедії нічого не будують. А ШІ будує ПЗ у відповіді на промпт.
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:36:27 IP/Host: 37.228.202.---
|
Розгорнути попередні цитати...є інші думки - антропний принципТо була іронія... Майже..
Ніякої загрози "людству" ШІ не несе.співробітники ОпенАІ, Антропіка самі кажуть що є. Я схильний довіряти їм більше
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:38:40 IP/Host: 178.158.210.---
|
Будівельники не відчувають ніяких загроз. Фермери теж.
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:46:17 IP/Host: 77.72.129.---
|
вчора Клод (Fable 5.1) побудував кнопку, яка повністю замінює десь 30 хвилин роботи на один натиск. Чи є в нього абстрактне мислення чи ні - не має ніякого значення. Кожен день він будує реальні працюючі інструменти.
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:46:36 IP/Host: ---.b024.la.net.ua
|
нмд беззмістовним є дискусія щодо присутності духу, емоції чи інших атрибутів людського мислення, бо порівнювати слід порівнювальне
пошук аналогій і підрахунок синапсів взагалі беззмістовні
кінцевому споживачу глибоко піфуй, на який мові щось там написано і які алгоритми задіяні
його/її цікавить результат, а при правильному використанні ВММ зараз це команда висококваліфіковани х експертів з усіх галузей з добре розвинутим аналітичним мисленням за 200 баксів на місяць, а то й дешевше - в моєму пакеті це трохи більше 20 баксів
хоча з виходом Астри в бізнес пакеті прикрутили кількість токенів на режимах високих, але це очікувано, фірма має заробляти
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:49:26 IP/Host: 77.72.129.---
|
Розгорнути попередні цитати...То була іронія... Майже..
Ніякої загрози "людству" ШІ не несе.співробітники ОпенАІ, Антропіка самі кажуть що є. Я схильний довіряти їм більшеТому що воно несе загрозу їх існуванню. Будівельники не відчувають ніяких загроз. Фермери теж.
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:50:54 IP/Host: 45.12.25.---
|
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:51:50 IP/Host: 77.72.129.---
|
Будівельники не відчувають ніяких загроз. Фермери теж
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:56:24 IP/Host: ---.b024.la.net.ua
|
3Д друк і роботи замінять будівельників протягом 5 років
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 08:59:11 IP/Host: 178.158.210.---
|
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 09:04:24 IP/Host: 77.72.129.---
|
я користуюсь ШІ з часу його появи. І читаю інших про ШІ. Вже зараз чітко є ШІ-ентузіасти, ШІ-скептики, ШІ-прагматики
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 09:07:19 IP/Host: 178.158.210.---
|
Розгорнути попередні цитати...я користуюсь ШІ з часу його появи. І читаю інших про ШІ. Вже зараз чітко є ШІ-ентузіасти, ШІ-скептики, ШІ-прагматикиПорівняйте з часамт перших парових машин в Англії.
Ще дата-центри не палять
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 09:09:04 IP/Host: 89.19.88.---
|
Розгорнути попередні цитати...співробітники ОпенАІ, Антропіка самі кажуть що є. Я схильний довіряти їм більшеТому що воно несе загрозу їх існуванню. Будівельники не відчувають ніяких загроз. Фермери теж.Тю. Прямі кандидати на вимирання. Стандарні маніпуляції стандартними блоками і матеріалами. 3Д друк і роботи замінять будівельників протягом 5 років
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 09:14:10 IP/Host: ---.b024.la.net.ua
|
Де та 3Д буде цемент брати, як вона з місця на місце буде перебиратися та скільки вона буде коштувати щоб побудувати 24 поверхівки.
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 09:15:05 IP/Host: 194.44.167.---
|
Розгорнути попередні цитати...Воно утворює свої абстрактні категорії і оперує нимиТи забув з чого почалось.взагалі то все чим на рівні логіки оперують ЕОМ є абстрактним
| Re: "Ми вже досягли AGI": OpenAI |
10 09 2026 09:22:53 IP/Host: 194.44.167.---
|
Розгорнути попередні цитати...Тому що воно несе загрозу їх існуванню. Будівельники не відчувають ніяких загроз. Фермери теж.Тю. Прямі кандидати на вимирання. Стандарні маніпуляції стандартними блоками і матеріалами. 3Д друк і роботи замінять будівельників протягом 5 роківОце і є прикладом абстрактного мислення.... Де та 3Д буде цемент брати, як вона з місця на місце буде перебиратися та скільки вона буде коштувати щоб побудувати 24 поверхівки.
Що до фермерів... Полуниці поки що роботи не збирають...