Раді Вас бачити! » Увійти » Створити новий профіль

"Ми вже досягли AGI": OpenAI

Re: "Ми вже досягли AGI": OpenAI

тобі бля шашечки чи їхати?
один позитивний (ну чи негативний, в залежності від формулюваня) приклад, який спростовує гипотезу і є достатнім доказом
і зазвичай такі приклади знаходять не алгоритммічним шляхом

Не треба брехати про глибоке абстрактне мислення. І про розум в АІ.
   
Re: "Ми вже досягли AGI": OpenAI

Не треба брехати про глибоке абстрактне мислення. І про розум в АІ.

Не припускаєте, що при певному значенні КІЛЬКОСТІ нейронів і перебраних варіантів результати, що їх демонструє нейромережа, неможливо відрізнити від тих, що продукує мозок з його здібностями до абстрактного мислення?
   
Re: "Ми вже досягли AGI": OpenAI

Не припускаєте, що при певному значенні КІЛЬКОСТІ нейронів і перебраних варіантів результати, що їх демонструє нейромережа, неможливо відрізнити від тих, що продукує мозок з його здібностями до абстрактного мислення?
86 млрд нейронів з 1 кврд синапсів, плюс треба врахувати що нейрон не транзистор, а процесор
   
Re: "Ми вже досягли AGI": OpenAI

Дослідник антропології звільняється через побоювання щодо «вихідного з-під контролю» штучного інтелекту. У лабораторіях штучного інтелекту зростає занепокоєння, що конкуренція підштовхує технологічні компанії до швидкого вдосконалення моделей, які ризикують вийти з-під контролю людини. https://www.wsj.com/tech/ai/anthropic-researcher-quits-over-out-of-control-ai-fears-707b7628
   
Re: "Ми вже досягли AGI": OpenAI

ми дійсно не знаємо як утворюються результати розумової діяльності, тобто бажання дівчинки намалювати котика, але навіть якщо припустити що мозок використовує всі відомі інформаційні алгоритми плюс на порядок більше невідомих, без брут форса все одно не обійтись. Чекаємо машину з 1014-1015 транзисторів
   
Re: "Ми вже досягли AGI": OpenAI



))
   
Re: "Ми вже досягли AGI": OpenAI

86 млрд нейронів з 1 кврд синапсів, плюс треба врахувати що нейрон не транзистор, а процесор

І що. Буде досягнуто , і більше буде
   
Re: "Ми вже досягли AGI": OpenAI

І що. Буде досягнуто , і більше буде
на картинці вище один такий сфотографували, потребує 42 мегавати електрики
   
Re: "Ми вже досягли AGI": OpenAI

на картинці вище один такий сфотографували, потребує 42 мегавати електрики

Ну і.
Дістануть мегавати. Чи не проблема.

Я до чого . Вже НЕМА принципових непорушних бар'єрів. Щось зроблене з кремнію за допомогою СУЧАСНИХ технологій доступних тут і зараз вже показує результат, який неможливо відрізнити від створеного людиною .

Питання масштабування - стандартне для науки і техніки, людство вміє його вирішувати
   
Re: "Ми вже досягли AGI": OpenAI

Ну і.
Дістануть мегавати. Чи не проблема.
Матрицю дивився? нащо їй були потрібні люди пам'ятаєш?
   
Re: "Ми вже досягли AGI": OpenAI

результат, який неможливо відрізнити від створеного людиною
то все візерунки, як у калейдоскопі. Просто на багато порядків складнішому, ніж дитячий
   
Re: "Ми вже досягли AGI": OpenAI

До цього були непорушні бар'єри: наявність доступу до ВСІЄЇ інформації людства для навчання - вирішено Інтернетом.

Ну і специфічні комп'ютери що супер ефективно проводять тензорні обчислення .

Ну і наявність сотень мільярдів вільних коштів для фінансування розробок і виробництва.

Маючи це, інше - лише масштабування і удосконалення.
   
Re: "Ми вже досягли AGI": OpenAI

то все візерунки, як у калейдоскопі. Просто на багато порядків складнішому, ніж дитячий

Якщо, дивлячись в калейдоскоп, ви будете бачити там реальний світ зі всією його складністю, це не буде відрізнятися від того, що ви дивилися б крізь шмат труби
   
Re: "Ми вже досягли AGI": OpenAI

Якщо, дивлячись в калейдоскоп, ви будете бачити там реальний світ
це неможливо принципово, бо калейдоскоп. Хіба прийняти гіпотезу що наш світ це візерунок у калейдоскопі Махавішну
   
Re: "Ми вже досягли AGI": OpenAI

Матрицю дивився? нащо їй були потрібні люди пам'ятаєш?

Самий великий косяк в сценарії. Якби була потрібна саме електроенергія - логічніше було б розводити електричних скатів, якщо взагалі використовувати живі створіння для цього має хоч якусь логіку, особливо в тому вигляді, як то зроблено у фільмі.

А от використовувати мозок і нервову систему Хомо як обчислювальну ноду - цілком логічно, в тому числі і з точки зору вибору саме Хомо в ролі "свійської тварини". Хоча навіть в цьому випадку розводити якихось мавп було б доцільніше - але тоді не було б про що знімати кіно  :)
   
Re: "Ми вже досягли AGI": OpenAI

Самий великий косяк в сценарії. Якби була потрібна саме електроенергія - логічніше було б розводити електричних скатів, якщо взагалі використовувати живі створіння для цього має хоч якусь логіку, особливо в тому вигляді, як то зроблено у фільмі.

А от використовувати мозок і нервову систему Хомо як обчислювальну ноду - цілком логічно, в тому числі і з точки зору вибору саме Хомо в ролі "свійської тварини". Хоча навіть в цьому випадку розводити якихось мавп було б доцільніше - але тоді не було б про що знімати кіно  :)
мені нецікаві люди які сперечаються щоби перемогти
   
Re: "Ми вже досягли AGI": OpenAI

мені нецікаві люди які сперечаються щоби перемогти

Тоді ти маєш бути нецікавий сам собі.
   
Re: "Ми вже досягли AGI": OpenAI
den

Щось там недобре про опенАІ наговорюють

 через кодекс математики ( один з університету один з антропік але незалежно від компанії ) тестували рішення цієї задачі більше року

Типу пару тижнів тому наблизились сильно і той що з антропік дружбану з опенАІ ляпнув про це - тут неочікувано і терміново "знайшлось рішення" агетвисамого опенАІ (і нібито на заперечують що могли мати доступ до тих  сесій кодекса чи чогось що юзало опенАІ)
   
Re: "Ми вже досягли AGI": OpenAI

маю гіпотезу, чому Джинкс так не любить тест айкю :pooh_lol:
   
Re: "Ми вже досягли AGI": OpenAI

Щось там недобре про опенАІ наговорюють

 через кодекс математики ( один з університету один з антропік але незалежно від компанії ) тестували рішення цієї задачі більше року

Типу пару тижнів тому наблизились сильно і той що з антропік дружбану з опенАІ ляпнув про це - тут неочікувано і терміново "знайшлось рішення" агетвисамого опенАІ (і нібито на заперечують що могли мати доступ до тих  сесій кодекса чи чогось що юзало опенАІ)
що недоброго в конкуренції, якщо вона не злочинна?
   
Re: "Ми вже досягли AGI": OpenAI
den

що недоброго в конкуренції, якщо вона не злочинна?
Конкуренція то добре

Тут типу використання сесій по цій тематиці до яких був доступ в опенАІ

Але хз, деталі треба дивитись , може то просто наклеп конкурентів

   
Re: "Ми вже досягли AGI": OpenAI

маю гіпотезу, чому Джинкс так не любить тест айкю :pooh_lol:
Гіпотези мати не заборонено  :-)o
   
Re: "Ми вже досягли AGI": OpenAI

що недоброго в конкуренції, якщо вона не злочинна?

Один з математиків активно користувався Open AI для роботи над рішенням і вони були близькими до розв'язку.
І цей дуже специфічний і унікальний метод розв'язку ніде не був опублікований, він був тільки в розмовах між цими двома математиками і в приватних сесіях OpenAI.

Мораль - все, що ми скажемо AI може бути використане проти нас  B-)
   
Re: "Ми вже досягли AGI": OpenAI

"Вони ризикують нашими життями": дослідник Anthropic звільнився через побоювання, що ШІ вийде з-під контролю


Євгеній Демківський
Автор новин видання "Межа" та гік. Пишу про технології, кіно та ігри. Можливо, про ігри з трохи більшою пристрастю.
9 вересня, 11:11

Дослідник Джейкоб Коксон залишає Anthropic та індустрію штучного інтелекту через побоювання, що компанії створять системи, які неможливо буде контролювати. Він заявив, що не хоче брати участь у перегонах зі створення ШІ, здатного самостійно вдосконалюватися.

За словами Коксона, протягом останніх трьох років він працював в OpenAI та Anthropic над попереднім навчанням моделей – етапом, на якому вони опрацьовують великі масиви даних і набувають базових можливостей. У дописі в X він звинуватив обидві компанії в безвідповідальному підході до розвитку технології.

Коксон вважає, що майбутні системи зможуть перевершувати людей, здійснювати кібератаки та здобувати ресурси й реальний вплив. Він також стверджує, що частина керівників і дослідників приватно висловлює серйозні побоювання щодо таких ризиків, хоча публічно говорить обережніше. Це оцінка Коксона, а не підтвердження того, що нинішній ШІ вже має такі можливості.

"Вони мчать прямо до надінтелекту, здатного самовдосконалюватис я, і ризикують нашими життями", – написав дослідник.

Дослідник по-різному пояснює поведінку колишніх роботодавців. На його думку, в OpenAI багато хто недостатньо усвідомлює масштаб загроз, тоді як в Anthropic їх розуміють краще, але продовжують розробку через конкуренцію. Аргумент, що інші лабораторії можуть діяти менш відповідально, він вважає небезпечною підставою для продовження перегонів.

Коксон закликає провідні ШІ-компанії до координації. Якщо домовитися не вдасться, він пропонує розглянути жорсткіші заходи, зокрема тимчасову заборону на нарощування можливостей моделей.

Нагадаємо, у червні Anthropic сама закликала створити можливість сповільнити або призупинити розвиток ШІ. Компанія заявляла, що погодилася б на таку паузу, якби інші провідні розробники також долучилися до неї, а дотримання домовленостей можна було б перевірити.

Водночас у своїй публікації Anthropic зазначала, що ще не досягла повного рекурсивного самовдосконалення – здатності ШІ автономно створювати власного наступника. Компанія також наголошувала, що такий сценарій не є неминучим.

Слова Коксона підтримали й інші дослідники Anthropic. Еван Губінгер написав, що працівники компанії справді вважають загибель людства через ШІ можливим сценарієм. Особисто він оцінює ймовірність такого розвитку подій протягом наступного десятиліття у понад 10%. За словами Губінгера, Anthropic намагається діяти відповідально, однак наразі не має готового способу узгодити поведінку штучного надінтелекту з людськими цілями.

Згодом дослідник уточнив, що вважає ризик від сучасних моделей низьким. Його побоювання стосуються майбутнього надінтелекту, який може виникнути завдяки рекурсивному самовдосконаленню.

Дослідник безпеки Anthropic Самуель Маркс також підтримав оцінку Коксона. За його словами, розробники ШІ усвідомлюють, що технологія може призвести до вимирання людства або інших катастрофічних наслідків уже протягом найближчих років. Наявні методи дозволяють лише спрямовувати поведінку моделей, але не гарантують їхнього надійного узгодження. Маркс окремо наголосив, що висловлює особисту позицію, а не офіційну думку Anthropic.
   
Re: "Ми вже досягли AGI": OpenAI

Мораль - все, що ми скажемо AI може бути використане проти нас
дуже вірний висновок. Але ніхто не читає угоду з використання ШІ, коли ставить галочку
   
Re: "Ми вже досягли AGI": OpenAI

Дослідник Джейкоб Коксон

Тепер чекаємо на Серену Батлер.  :shuffle:
   
Re: "Ми вже досягли AGI": OpenAI

Дубль, вже написали вище
   
Re: "Ми вже досягли AGI": OpenAI

у своїй публікації Anthropic зазначала, що ще не досягла повного рекурсивного самовдосконалення – здатності ШІ автономно створювати власного наступника. Компанія також наголошувала, що такий сценарій не є неминучим

Власне
   
Re: "Ми вже досягли AGI": OpenAI

Хочеться повернутися до книжок типу Гіперіона , але не тільки їх, в яких згадується, що а минулому мала місце війна людства проти ШІ

В Гіперіоні людство перемогло, в Матриці - програло
   
Re: "Ми вже досягли AGI": OpenAI

Potato, cьогодні в 11:54
Дослідник Джейкоб Коксон

Тепер чекаємо на Серену Батлер.


У чувака просто сдали нервы.




   
Re: "Ми вже досягли AGI": OpenAI

Картка Приватбанку: 5168752132264402  Наталія.
https://www.privat24.ua/send/h2dk3
UA78305299026200640 0985219900
Картка Монобанку: 5375411203433870 Наталія
https://send.monobank.ua/jar/3akyLxPgg
UA08322001000002620 1333905041
PayPal: [email protected]

Я зараз збираю на приведення в працездатний стан волонтерського Т5 для дроноводів-бомберів 54 ОМБР.

Дуже прошу вашої фінансової допомоги цьому зборі. Інформація в профільної гілці:
https://forum.pravda.com.ua/index.php?topic=943390.12440
   
Re: "Ми вже досягли AGI": OpenAI

У чувака просто сдали нервы.

Скажімо так - це нормальна реакція відповідальної людини, коли мова йде про потенційно небезпечні технології чи знання.

Просто всі оці заяви "на загал" без технічних подробиць лише підливають масла у вогнище хайпа, а не прояснюють ситуацію, що відбувається в дійсності.
   
Re: "Ми вже досягли AGI": OpenAI

тобі бля шашечки чи їхати?
один позитивний (ну чи негативний, в залежності від формулюваня) приклад, який спростовує гипотезу і є достатнім доказом
і зазвичай такі приклади знаходять не алгоритммічним шляхом
ну то як він розв'язав цю задачу? Може надати послідовність дій? Швидше за все розв'язував діфури чисельними методами.
   
Re: "Ми вже досягли AGI": OpenAI
den

Як я зрозумів вони ( опенАІ) знайшли варіант коли загальне правило не працює ( типу існує можливість отримання вихрів всередині потоку  які не відповідають формулі )

   
Re: "Ми вже досягли AGI": OpenAI

Як я зрозумів вони ( опенАІ) знайшли варіант коли загальне правило не працює ( типу існує можливість отримання вихрів всередині потоку  які не відповідають формулі )
звичайне доведення від протилежного
   
Re: "Ми вже досягли AGI": OpenAI
den

звичайне доведення від протилежного

Виходить що і потрібно було тих 80к+ агентів щоб знайти такий випадок ?

Скоріш за все маючи напрацювання колег і знаючи куди слід копати-  знайшли  перебором випадок невідповідності загальному правилу

   
Re: "Ми вже досягли AGI": OpenAI

Виходить що і потрібно було тих 80к+ агентів щоб знайти такий випадок ?
схоже що саме так
   
Re: "Ми вже досягли AGI": OpenAI

Матрицю дивився? нащо їй були потрібні люди пам'ятаєш?

Найкумедніший епізод фільму :D
   
Re: "Ми вже досягли AGI": OpenAI

Не треба брехати про глибоке абстрактне мислення. І про розум в АІ.

Абстрактне мислення якраз і змодельовано
   
Re: "Ми вже досягли AGI": OpenAI

Самий великий косяк в сценарії. Якби була потрібна саме електроенергія - логічніше було б розводити електричних скатів, якщо взагалі використовувати живі створіння для цього має хоч якусь логіку, особливо в тому вигляді, як то зроблено у фільмі.

А от використовувати мозок і нервову систему Хомо як обчислювальну ноду - цілком логічно, в тому числі і з точки зору вибору саме Хомо в ролі "свійської тварини". Хоча навіть в цьому випадку розводити якихось мавп було б доцільніше - але тоді не було б про що знімати кіно  :)

В мавп мозок не такий досконалий, як у людей. Але ідею в цілому підтримую: розповідь Матеуса про Матрицю стала б правдоподібнішою, якби мова йшла про використання людських мізків як своєрідних творчих співпроцесорів. Мовляв, в машинних "мізків" з генерацією ідей тугувато, от вони й скористалися.

До речі, в одному з мультфільмів серії "Аніматриця", де розповідають про історію людства, зокрема, про війни з роботами і створення Матриці, цієї дурні про батарейки немає. Там сказано, що машини, отримавши остаточну перемогу, проявили своєрідний гуманізм і, замість вбивати полонених, оселили їх у ілюзорному світі.

З.І. Щодо скатів зауважу, що будь-який живий організм має надзвичайно низький КПД перетворення енергії, яка міститься в його їжі. Інакше кажучи, всю оту біомасу (ймовірно, одноклітинні водорості), яка піде на харчування умовного Нео протягом десятиліть (перш ніж його труп можна буде переробити, згідно Матеус, на їжу для інших людей), вигідніше одразу спалити на електростанції. А ще вигідніше - не вирощувати біомасу взагалі, а, замість освітлення теплиць з водоростями, одразу використати ту електрику для живлення машин.
   

Цю тему переглядають:

0 Користувачів і 1 гість
 
Повна версія