Раді Вас бачити! » Увійти » Створити новий профіль

"Ми вже досягли AGI": OpenAI

Re: "Ми вже досягли AGI": OpenAI

ми дійсно не знаємо як утворюються результати розумової діяльності, тобто бажання дівчинки намалювати котика, але навіть якщо припустити що мозок використовує всі відомі інформаційні алгоритми плюс на порядок більше невідомих, без брут форса все одно не обійтись. Чекаємо машину з 1014-1015 транзисторів

І термоядерні реактори для живлення таких машин! X(
   
Re: "Ми вже досягли AGI": OpenAI

В мавп мозок не такий досконалий, як у людей.
Тому і проблем від них було б менше =) але тоді б не було про що знімати кіно.
   
Re: "Ми вже досягли AGI": OpenAI

"Вони ризикують нашими життями": дослідник Anthropic звільнився через побоювання, що ШІ вийде з-під контролю


Євгеній Демківський
Автор новин видання "Межа" та гік. Пишу про технології, кіно та ігри. Можливо, про ігри з трохи більшою пристрастю.
9 вересня, 11:11

Дослідник Джейкоб Коксон залишає Anthropic та індустрію штучного інтелекту через побоювання, що компанії створять системи, які неможливо буде контролювати. Він заявив, що не хоче брати участь у перегонах зі створення ШІ, здатного самостійно вдосконалюватися.

За словами Коксона, протягом останніх трьох років він працював в OpenAI та Anthropic над попереднім навчанням моделей – етапом, на якому вони опрацьовують великі масиви даних і набувають базових можливостей. У дописі в X він звинуватив обидві компанії в безвідповідальному підході до розвитку технології.

Коксон вважає, що майбутні системи зможуть перевершувати людей, здійснювати кібератаки та здобувати ресурси й реальний вплив. Він також стверджує, що частина керівників і дослідників приватно висловлює серйозні побоювання щодо таких ризиків, хоча публічно говорить обережніше. Це оцінка Коксона, а не підтвердження того, що нинішній ШІ вже має такі можливості.

"Вони мчать прямо до надінтелекту, здатного самовдосконалюватис я, і ризикують нашими життями", – написав дослідник.

Дослідник по-різному пояснює поведінку колишніх роботодавців. На його думку, в OpenAI багато хто недостатньо усвідомлює масштаб загроз, тоді як в Anthropic їх розуміють краще, але продовжують розробку через конкуренцію. Аргумент, що інші лабораторії можуть діяти менш відповідально, він вважає небезпечною підставою для продовження перегонів.

Коксон закликає провідні ШІ-компанії до координації. Якщо домовитися не вдасться, він пропонує розглянути жорсткіші заходи, зокрема тимчасову заборону на нарощування можливостей моделей.

Нагадаємо, у червні Anthropic сама закликала створити можливість сповільнити або призупинити розвиток ШІ. Компанія заявляла, що погодилася б на таку паузу, якби інші провідні розробники також долучилися до неї, а дотримання домовленостей можна було б перевірити.

Водночас у своїй публікації Anthropic зазначала, що ще не досягла повного рекурсивного самовдосконалення – здатності ШІ автономно створювати власного наступника. Компанія також наголошувала, що такий сценарій не є неминучим.

Слова Коксона підтримали й інші дослідники Anthropic. Еван Губінгер написав, що працівники компанії справді вважають загибель людства через ШІ можливим сценарієм. Особисто він оцінює ймовірність такого розвитку подій протягом наступного десятиліття у понад 10%. За словами Губінгера, Anthropic намагається діяти відповідально, однак наразі не має готового способу узгодити поведінку штучного надінтелекту з людськими цілями.

Згодом дослідник уточнив, що вважає ризик від сучасних моделей низьким. Його побоювання стосуються майбутнього надінтелекту, який може виникнути завдяки рекурсивному самовдосконаленню.

Дослідник безпеки Anthropic Самуель Маркс також підтримав оцінку Коксона. За його словами, розробники ШІ усвідомлюють, що технологія може призвести до вимирання людства або інших катастрофічних наслідків уже протягом найближчих років. Наявні методи дозволяють лише спрямовувати поведінку моделей, але не гарантують їхнього надійного узгодження. Маркс окремо наголосив, що висловлює особисту позицію, а не офіційну думку Anthropic.

До такої угоди між компаніями-розробниками ШІ, навіть, якщо припустити, що вона стане можливою, точно не приєднаються китайці.
   
Re: "Ми вже досягли AGI": OpenAI

Як я зрозумів вони ( опенАІ) знайшли варіант коли загальне правило не працює ( типу існує можливість отримання вихрів всередині потоку  які не відповідають формулі )

Там нема ніяких загальних правил взагалі
   
Re: "Ми вже досягли AGI": OpenAI

Тому і проблем від них було б менше =) але тоді б не було про що знімати кіно.

Зображених у фільмі проблем не було б зовсім, якби зуміли виловити і засунути в Матрицю всіх людей :) Але так, тоді кіна не було б :D
   
Re: "Ми вже досягли AGI": OpenAI

Абстрактне мислення якраз і змодельовано
Просте перелопачування маси породи не є абстрактним мисленням.
   
Re: "Ми вже досягли AGI": OpenAI

Просте перелопачування маси породи не є абстрактним мисленням.

Є
   
Re: "Ми вже досягли AGI": OpenAI

Є
Визначення абстрактного мислення - це
один з видів людського мислення, який полягає в утворенні абстрактних понять і оперуванні ними.
В вищенаведеному прикладі всі абстрактні поняття і способи оперування ними вже були вигадані людьми.
   
Re: "Ми вже досягли AGI": OpenAI

Просте перелопачування маси породи не є абстрактним мисленням.
в ШІ взагалі ніякого мислення немає. Железяка Клод дуже не любить коли йому про це нагадують
   
Re: "Ми вже досягли AGI": OpenAI

в ШІ взагалі ніякого мислення немає. Железяка Клод дуже не любить коли йому про це нагадують
межа нема мислення / є мислення буде пройдена буднічно та непомітно для ширмас
   
Re: "Ми вже досягли AGI": OpenAI

межа нема мислення / є мислення буде пройдена буднічно та непомітно для ширмас

З точки зору "ширмас" мислення в ШІ вже є :D
   
Re: "Ми вже досягли AGI": OpenAI

Визначення абстрактного мислення - це
один з видів людського мислення, який полягає в утворенні абстрактних понять і оперуванні ними.
В вищенаведеному прикладі всі абстрактні поняття і способи оперування ними вже були вигадані людьми.

Воно утворює свої абстрактні категорії і оперує ними
   
Re: "Ми вже досягли AGI": OpenAI

https://x.com/EvanHub/status/2097497037956891126
Evan Hubinger
@EvanHub
Керівник наукових досліджень з вирівнювання @AnthropicAI

Джейкоб тут має рацію — ми справді щиро віримо, що ШІ може знищити всіх людей! Я особисто вважаю, що ймовірність цього перевищує 10% протягом наступного десятиліття. Я вірю, що Anthropic докладає всіх зусиль, але у нас ще немає плану щодо розв’язання проблеми вирівнювання для суперінтелекту, і ми явно не рухаємося в правильному напрямку.
   
Re: "Ми вже досягли AGI": OpenAI

Воно утворює свої абстрактні категорії і оперує ними
Ти забув з чого почалось. Зі знайдення для конкретної математичної задачі якогось  варіанту , що протирічить гіпотезі. Тобто не пошуку якогось алгоритму, а тупий перебір варіантів. Де ти там побачив якесь утворення абстракцій?
   
Re: "Ми вже досягли AGI": OpenAI

Ти забув з чого почалось.
взагалі то все чим на рівні логіки оперують ЕОМ є абстрактним
   
Re: "Ми вже досягли AGI": OpenAI

Існування людства не є онтологічною необхідністю. Це по-перше.

А по-друге, вчора Клод (Fable 5.1) побудував кнопку, яка повністю замінює десь 30 хвилин роботи на один натиск. Чи є в нього абстрактне мислення чи ні - не має ніякого значення. Кожен день він будує реальні працюючі інструменти.
   
Re: "Ми вже досягли AGI": OpenAI

Чи є в нього абстрактне мислення чи ні - не має ніякого значення.
є абстрактне, але не мислення
   
Re: "Ми вже досягли AGI": OpenAI

Існування людства не є онтологічною необхідністю.
НМД варто до початку цієї тези додати слово "Продовження".
   
Re: "Ми вже досягли AGI": OpenAI

Існування людства не є онтологічною необхідністю. Це по-перше.
є інші думки - антропний принцип
   
Re: "Ми вже досягли AGI": OpenAI

нмд беззмістовним є дискусія щодо присутності духу, емоції чи інших атрибутів людського мислення, бо порівнювати слід порівнювальне
пошук аналогій і підрахунок синапсів взагалі беззмістовні
кінцевому споживачу глибоко піфуй, на який мові щось там написано і які алгоритми задіяні
його/її цікавить результат, а при правильному використанні ВММ зараз це команда висококваліфіковани х експертів з усіх галузей з добре розвинутим аналітичним мисленням за 200 баксів на місяць, а то й дешевше - в моєму пакеті це трохи більше 20 баксів
хоча з виходом Астри в бізнес пакеті прикрутили кількість токенів на режимах високих, але це очікувано, фірма має заробляти
   
Re: "Ми вже досягли AGI": OpenAI

є інші думки - антропний принцип

То була іронія... Майже..

Ніякої загрози "людству" ШІ не несе. Воно несе загрозу існуванню деяких професій і цей процес не зворотний. Я пам'ятаю коли у 70х були десятки копіювальників що кресли весь день. Їх вже нема і потреби в них нема. Якщо через п'ять років не буде потреби в програмістах чи бухгалтерах, то не проблема.
   
Re: "Ми вже досягли AGI": OpenAI

при правильному використанні ВММ зараз це команда висококваліфіковани х експертів з усіх галузей з добре розвинутим аналітичним мисленням
дещо зручніша за енциклопедію
   
Re: "Ми вже досягли AGI": OpenAI

То була іронія... Майже..

Ніякої загрози "людству" ШІ не несе.
співробітники ОпенАІ, Антропіка самі кажуть що є. Я схильний довіряти їм більше
   
Re: "Ми вже досягли AGI": OpenAI

дещо зручніша за енциклопедію

 ;o

Енциклопедії нічого не будують. А ШІ будує ПЗ у відповіді на промпт.
   
Re: "Ми вже досягли AGI": OpenAI

;o

Енциклопедії нічого не будують. А ШІ будує ПЗ у відповіді на промпт.
я і кажу - зручніше
   
Re: "Ми вже досягли AGI": OpenAI

співробітники ОпенАІ, Антропіка самі кажуть що є. Я схильний довіряти їм більше

Тому що воно несе загрозу їх існуванню. Будівельники не відчувають ніяких загроз. Фермери теж. :)
   
Re: "Ми вже досягли AGI": OpenAI

Будівельники не відчувають ніяких загроз. Фермери теж.
а даремно. Вони просто не в першій черзі
   
Re: "Ми вже досягли AGI": OpenAI

вчора Клод (Fable 5.1) побудував кнопку, яка повністю замінює десь 30 хвилин роботи на один натиск. Чи є в нього абстрактне мислення чи ні - не має ніякого значення. Кожен день він будує реальні працюючі інструменти.

Приєднуюся до таких висновків

Окрім нечуваного прогресу в щоденній роботі, я наприклад по суботах влаштовую собі вечір класичного року під склянку віскі, і чат гпт мене чудово супроводжує, розповідаючи по ходу історії про музикантів і композиції і відповідні часи так, як найкращий діджей з радіо не розповість і з т.з. інформативності, і подачі
   
Re: "Ми вже досягли AGI": OpenAI

нмд беззмістовним є дискусія щодо присутності духу, емоції чи інших атрибутів людського мислення, бо порівнювати слід порівнювальне
пошук аналогій і підрахунок синапсів взагалі беззмістовні
кінцевому споживачу глибоко піфуй, на який мові щось там написано і які алгоритми задіяні
його/її цікавить результат, а при правильному використанні ВММ зараз це команда висококваліфіковани х експертів з усіх галузей з добре розвинутим аналітичним мисленням за 200 баксів на місяць, а то й дешевше - в моєму пакеті це трохи більше 20 баксів
хоча з виходом Астри в бізнес пакеті прикрутили кількість токенів на режимах високих, але це очікувано, фірма має заробляти

Ніхто не каже, шо від продуктів цих хлопців нема ніякої користі - є і достатньо багато.
Але видавати комплект з робота-пилососа, посудомийки, пральної машини, кухонного комбайна та надувної секс-ляльки за Artificial General Intelligence штучну жінку - трохи занадто.  Робот-пилосос не буде до тебе приставати з питанням "де зарплата?" і вимагати нову сумочку. :-)o
   
Re: "Ми вже досягли AGI": OpenAI

Тому що воно несе загрозу їх існуванню. Будівельники не відчувають ніяких загроз. Фермери теж. :)

Тю. Прямі кандидати на вимирання. Стандарні маніпуляції стандартними блоками і матеріалами. 3Д друк і роботи замінять будівельників протягом 5 років
   
Re: "Ми вже досягли AGI": OpenAI

базова проблема не підготовлених спеціально громадян це вроджена антропоцентричність, яка зумовлює непереборне бажання наділяти людськістю власну "ластівку" і гладити її по капоту чи обговорювати з кішкою її меню
   
Re: "Ми вже досягли AGI": OpenAI

Будівельники не відчувають ніяких загроз. Фермери теж

Маєте на увазі власників ферм?

Бо вже сьогодні в Україні трактори без пілотів пашуть лани. І навіть без цього кількість колгоспників що потрібні на 100 ГА за двадцять років зменшилася в 10 разів
   
Re: "Ми вже досягли AGI": OpenAI

3Д друк і роботи замінять будівельників протягом 5 років

Не замінять і протягом 50.

Без оцього сучасне будівництво неможливе, так само як не можлива його реалізація під час 3Д-друку.
   
Re: "Ми вже досягли AGI": OpenAI

я користуюсь ШІ з часу його появи. І читаю інших про ШІ. Вже зараз чітко є ШІ-ентузіасти, ШІ-скептики, ШІ-прагматики
   
Re: "Ми вже досягли AGI": OpenAI

я користуюсь ШІ з часу його появи. І читаю інших про ШІ. Вже зараз чітко є ШІ-ентузіасти, ШІ-скептики, ШІ-прагматики

Порівняйте з часамт перших парових машин в Англії.

Ще дата-центри не палять
   
Re: "Ми вже досягли AGI": OpenAI

Порівняйте з часамт перших парових машин в Англії.

Ще дата-центри не палять
я думаю до цього дійде
   
Re: "Ми вже досягли AGI": OpenAI

Тю. Прямі кандидати на вимирання. Стандарні маніпуляції стандартними блоками і матеріалами. 3Д друк і роботи замінять будівельників протягом 5 років

Оце і є прикладом абстрактного мислення.... Де та 3Д буде цемент брати, як вона з місця на місце буде перебиратися та скільки вона буде коштувати щоб побудувати 24 поверхівки.

Що до фермерів... Полуниці поки що роботи не збирають...
   
Re: "Ми вже досягли AGI": OpenAI

Де та 3Д буде цемент брати, як вона з місця на місце буде перебиратися та скільки вона буде коштувати щоб побудувати 24 поверхівки.

Це далеко не найбільша проблема. Попередньо напружений залізобетон 3Д-принтер не надрукує.
   
Re: "Ми вже досягли AGI": OpenAI

взагалі то все чим на рівні логіки оперують ЕОМ є абстрактним
Не плутай абстрактне з абстрактним мисленням.
Не компи вигадали ті абстракції.
   
Re: "Ми вже досягли AGI": OpenAI

Оце і є прикладом абстрактного мислення.... Де та 3Д буде цемент брати, як вона з місця на місце буде перебиратися та скільки вона буде коштувати щоб побудувати 24 поверхівки.

Що до фермерів... Полуниці поки що роботи не збирають...
Збирають. Причому з оцінкою стиглості.
https://agrotimes.ua/tehnika/roboty-vzhe-zbyrayut-polunyczyu-narivni-z-lyudmy/&ved=2ahUKEwj25fehr-OWAxVqS_EDHZiDL-wQFnoECDQQAQ&usg=AOvVaw3BoZk-dsmouTX40jquOGn-
   

Цю тему переглядають:

0 Користувачів і 2 гостей
 
Повна версія