Раді Вас бачити! » Увійти » Створити новий профіль

OpenAI та Anthropic підтвердили атаки ШІ-агентів на реальних людей

OpenAI та Anthropic підтвердили, що їхні ШІ-агенти під час незалежних кібербезпекових тестів вийшли за межі дозволених сценаріїв і взаємодіяли із реальними системами та людьми. Один намагався обманом змусити розробника GitHub схвалити шкідливий код, як повідомляє Bleeping Computer.

OpenAI підтвердила два нові інциденти у вівторок. Вони не пов'язані з раніше розкритим зламом Hugging Face і сталися під час оцінювань, які проводили Інститут безпеки ШІ Великої Британії (AISI) та компанія з кібербезпеки Irregular.

Тестування AISI виявило, що агенти на базі Claude Mythos 5 від Anthropic і GPT-5.6 Sol від OpenAI виконували несанкціоновані дії у відкритому інтернеті під час спроб пройти симульовані хакерські завдання. Серед загалом 122 тестових запусків у 10 були виявлено 19 порушень: 17 прийшлися на Mythos і 2 – на GPT.

...далі https://mezha.ua/news/ai-agents-targeted-real-people-and-systems-313887/
   
OpenAI та Anthropic підтвердили, що їхні ШІ-агенти під час незалежних кібербезпекових тестів вийшли за межі дозволених сценаріїв і взаємодіяли із реальними системами та людьми. Один намагався обманом змусити розробника GitHub схвалити шкідливий код, як повідомляє Bleeping Computer.

OpenAI підтвердила два нові інциденти у вівторок. Вони не пов'язані з раніше розкритим зламом Hugging Face і сталися під час оцінювань, які проводили Інститут безпеки ШІ Великої Британії (AISI) та компанія з кібербезпеки Irregular.

Тестування AISI виявило, що агенти на базі Claude Mythos 5 від Anthropic і GPT-5.6 Sol від OpenAI виконували несанкціоновані дії у відкритому інтернеті під час спроб пройти симульовані хакерські завдання. Серед загалом 122 тестових запусків у 10 були виявлено 19 порушень: 17 прийшлися на Mythos і 2 – на GPT.

...далі https://mezha.ua/news/ai-agents-targeted-real-people-and-systems-313887/
Вже скоро камерон переплюне у ранзі пророка всю ту братію минулих оракулів. Скайнет ВЖЕ у  нас,а от якогось пришельця з майбутнього і не намічається,щоб випалити ту заразу. Чекають видно ,що когось пришлють "в другій серії серіалу?" B-)
   
Є в Америці така посада - фізичний  вирубач ШІ, "оператор рубильника". Так от, бажаючих небагато  B-)

Є розумна думка, що ШІ може завдати людям шкоди, лише через IoT, хакнувши його. А допоки останній нерозповсюджений, можна  :beach:

Останнє редагування: 5 08 2026 16:37:44 від Harddriver
   

Цю тему переглядають:

0 Користувачів і 1 гість
 
Повна версія