Раді Вас бачити! » Увійти » Створити новий профіль

Боти в інформаційних операціях. Ознаки та методи виявлення

Улітку 2025-го телеграм-канал про Гагаузію — на півдні Молдови — опублікував допис про дощ у місті Камраті. Публікація зібрала тринадцять коментарів. Всі вони стверджували, що в поганій погоді винна президентка Мая Санду.

“Дощ, як завжди, коли країну женуть у пекло ці покидьки з PAS”.

“А в Москві сонце, а тут Санду знову все псує. Дощ — її подарунок на День Європи”.

“Санду знову морить нас голодом, а дощ лише погіршує справу. Замість хліба — вода, замість надії — хмари”.

Ці коментарі написали боти. Ми детально розбираємо це в подкасті  Згенеровано ШІ — спільному проєкті Громадського радіо та Molfar Intelligence Institute.

У молдовському сегменті Telegram вони також виявили 462 автоматизовані акаунти. За період з 1 липня по 15 вересня 2025 року боти залишили 62 229 коментарів у 76 каналах — 12,8% усієї активності в коментарях молдовських суспільно-політичних каналів. Приблизно кожен восьмий коментар. У шістнадцяти каналах боти написали більш ніж половину усіх коментарів. 95% цих коментарів були унікальними: текст генерувався окремо під кожен допис.

Ті самі акаунти працювали не лише в Молдові: 347 із 462 писали також у російських і українських каналах — про жорстокий «київський режим», про російські вимоги на переговорах.

Які ознаки ШІ більше не працюють

Три роки тому боти зізнавалися самі. У квітні 2023-го NewGuard знайшла 49 сайтів, які повністю писав ШІ, — і на кожному без винятку був щонайменше один текст із залишком службової відповіді моделі: “як мовна модель, я не можу виконати це прохання”. Один сайт опублікував новину із заголовком “Вибачте, я не можу виконати цей запит, оскільки він суперечить етичним і моральним принципам”.

Минуло три роки, і майже все, за чим ми навчалися тоді впізнавати машину, перестало працювати.

Дубльовані коментарі. До 2025-го це був надійний маркер: той самий текст під пʼятьма різними дописами означав бота. Ознака трималася на економіці — генерація коштувала грошей, тому один текст розганяли по багатьох каналах. У молдавській вибірці збіглося лише 5% коментарів: решту модель писала окремо під кожен допис, ще й з урахуванням того, що вже написали в гілці.

Кострубата мова. Моделі тепер прямо інструктують імітувати живу мову. У  звіті Atlantic про комерційну операцію впливу операторам ботів було прописано відповідати гумором і сарказмом, якщо їх звинуватять у тому, що вони боти. Існує й окремий ринок "х'юманайзерів" — сервісів, які переписують згенерований текст так, щоб він не проявлявся на детекторах. Вони цілять у дві статистичні властивості, за якими визначають машину: надто передбачуваний вибір наступного слова і надто рівний ритм речень.

Безглузді юзернейми й невідповідні аватарки. Ознака, яка працює частково: саме за нею OpenMinds ловили мережу на окупованих територіях — там акаунти видавали себе беззмістовними нікнеймами й фото, що не вʼязалися з профілем.

Останнє редагування: 9 09 2026 11:41:19 від Potato
   

Чи здатні ми розпізнати ботів?


За змістом — вже майже ні.  У грудні 2025-го Єврокомісія вперше застосувала Акт про цифрові послуги  і оштрафувала X на 120 мільйонів євро.

Одна з трьох претензій — платна “верифікація”: галочку можна купити, ніхто не перевіряє, хто стоїть за акаунтом, і користувач не може оцінити, з ким саме він розмовляє.

Друга — X ускладнила дослідникам доступ до власних даних, а без цього неможливо вивчати координовані інформаційні операції ззовні.

Тобто ознаку, за якою людина мала відрізняти справжній акаунт від підробленого, перетворилася на товар. А інструменти, якими це можна перевірити, — закритими.

Детекція змістилася з питання “що написано” на питання “як автор поводиться”. Час, ритм, кількість повідомлень на добу, присутність того самого акаунта в непоєднуваних тематичних середовищах, а також дата, сплески активності.

Поведінка. Людина спить, відволікається, зникає на вихідні. Автоматизована активність зазвичай залишається рівномірною. Звісно, за винятком випадків коли її свідомо підлаштували під «випадковість».

Обсяг. ШІ може написати один правдоподібний коментар, але у масштабі імітація може давати “баги”.

Акаунт. Жива людина не сидить у десятку спільнот з різними мовами. Бот сидить, бо так його запустили. Тому один акаунт зʼявляється у багатьох місцях одразу.

Мережа. Це головне, що змінилося в самій детекції: окремі акаунти більше не оцінюють. Дивляться на групи — коли зареєстровані, чи публікують синхронно, чи зʼявляються під тими самими дописами. Один бот виглядає нормально. Десять разом — ні. Саме тому це робота дослідників з доступом до даних, а не людини в коментарях.

Модерація замість полювання

Один молдовський канал спробував відповісти прямо: попередив читачів, що в чаті працюють кремлівські боти, і попросив не відповідати на їхні провокації, бо це створює ілюзію опозиційного діалогу. А потім видалив усі коментарі.

Це і є точка, у якій стає видно, за що взагалі йде боротьба. Шістдесят дві тисячі коментарів не мали переконати конкретного читача, що в дощі винна Санду. Вони мали створити враження, що так думають усі навколо. У розслідуванні про окуповані території це названо прямо: мережа працювала на симуляцію низової підтримки. Не аргумент, а фон.

Тому й ознаки, за якими таке ловлять, — не про текст. Окремий коментар може бути бездоганним. Проблема в тому, скільки їх, коли вони зʼявляються і хто ще пише те саме поруч.

Молдовські вибори минули, але операція на них не закінчилася. У щорічному звіті Європейської служби зовнішніх справ зазначено, що після молдовської кампанії російські інформаційні операції переорієнтувалися на парламентські вибори у Вірменії — з мережами й тактиками, які аналітики називають разюче схожими на молдовські. Таку інфраструктуру перенаправляють з країни на країну.

https://www.molfar.institute/boty-v-informaczijnyh-operacziyah-oznaky-ta-metody-vyyavlennya/

Останнє редагування: 9 09 2026 11:48:21 від Potato
   
Тю

Хто притомний взагалі читає коментарі десь?

З 2017 року приблизно (українські соціальні мережі) 90% від всіх коментарів під суспільно - політичними дописами створені ботофермами.
   
Тю

Хто притомний взагалі читає коментарі десь?

З 2017 року приблизно (українські соціальні мережі) 90% від всіх коментарів під суспільно - політичними дописами створені ботофермами.
:K
Шапка згоріла...
   
:K
Шапка згоріла...

Що сказати хотів?

З вказаного 2017 року повністю перестав читати коментарі в усіх соцмережах з вказаної причини, з 2020 року видалив акаунти з усіх соцмереж де були, і з того моменту не відкривав.

   
видалив акаунти з усіх соцмереж
так незручно переходити по лінкам
   
ТИП: Гібридний текст
КЛАСИФІКАЦІЯ: 83% — AI-генерація / 17% — людське редагування
ДОВІРА: НИЗЬКА (перевищує поріг у 65% для маркування)
   
Ну от заходив в коменти на цензорі. В кожній темі купа чуваків тупо випорожняються на президента України, ніякої дискусії, ніяких аргументів. Думаю що то живі люди, комусь можливо платять, а хтось із ідєйних саабражєній. Але читати там точно нічого.
   
так незручно переходити по лінкам

Є таке. В багатьох випадках натикаюся на стіну реєстрації і все.
Що ж, таку інформацію втрачаю . Не сильно шкода
   
ТИП: Гібридний текст
КЛАСИФІКАЦІЯ: 83% — AI-генерація / 17% — людське редагування
ДОВІРА: НИЗЬКА (перевищує поріг у 65% для маркування)

Вітаю з поверненням!
Може, в цій інкарнації таки да будете послуговуватися українською?
   
Ну от заходив в коменти на цензорі. В кожній темі купа чуваків тупо випорожняються на президента України, ніякої дискусії, ніяких аргументів. Думаю що то живі люди, комусь можливо платять, а хтось із ідєйних саабражєній. Але читати там точно нічого.

Запрошую завітати на СУП або ТГ-чат "ФУП та інші". Скрізь, де нема жорсткої модерації, настає Цугундер
   

Чи здатні ми розпізнати ботів?

За змістом — вже майже ні.  У грудні 2025-го Єврокомісія вперше застосувала Акт про цифрові послуги  і оштрафувала X на 120 мільйонів євро.

Одна з трьох претензій — платна “верифікація”: галочку можна купити, ніхто не перевіряє, хто стоїть за акаунтом, і користувач не може оцінити, з ким саме він розмовляє.

Друга — X ускладнила дослідникам доступ до власних даних, а без цього неможливо вивчати координовані інформаційні операції ззовні.

Тобто ознаку, за якою людина мала відрізняти справжній акаунт від підробленого, перетворилася на товар. А інструменти, якими це можна перевірити, — закритими.

Детекція змістилася з питання “що написано” на питання “як автор поводиться”. Час, ритм, кількість повідомлень на добу, присутність того самого акаунта в непоєднуваних тематичних середовищах, а також дата, сплески активності.

Поведінка. Людина спить, відволікається, зникає на вихідні. Автоматизована активність зазвичай залишається рівномірною. Звісно, за винятком випадків коли її свідомо підлаштували під «випадковість».

Обсяг. ШІ може написати один правдоподібний коментар, але у масштабі імітація може давати “баги”.

Акаунт. Жива людина не сидить у десятку спільнот з різними мовами. Бот сидить, бо так його запустили. Тому один акаунт зʼявляється у багатьох місцях одразу.

Мережа. Це головне, що змінилося в самій детекції: окремі акаунти більше не оцінюють. Дивляться на групи — коли зареєстровані, чи публікують синхронно, чи зʼявляються під тими самими дописами. Один бот виглядає нормально. Десять разом — ні. Саме тому це робота дослідників з доступом до даних, а не людини в коментарях.

Модерація замість полювання
Один молдовський канал спробував відповісти прямо: попередив читачів, що в чаті працюють кремлівські боти, і попросив не відповідати на їхні провокації, бо це створює ілюзію опозиційного діалогу. А потім видалив усі коментарі.

Це і є точка, у якій стає видно, за що взагалі йде боротьба. Шістдесят дві тисячі коментарів не мали переконати конкретного читача, що в дощі винна Санду. Вони мали створити враження, що так думають усі навколо. У розслідуванні про окуповані території це названо прямо: мережа працювала на симуляцію низової підтримки. Не аргумент, а фон.

Тому й ознаки, за якими таке ловлять, — не про текст. Окремий коментар може бути бездоганним. Проблема в тому, скільки їх, коли вони зʼявляються і хто ще пише те саме поруч.

Молдовські вибори минули, але операція на них не закінчилася. У щорічному звіті Європейської служби зовнішніх справ зазначено, що після молдовської кампанії російські інформаційні операції переорієнтувалися на парламентські вибори у Вірменії — з мережами й тактиками, які аналітики називають разюче схожими на молдовські. Таку інфраструктуру перенаправляють з країни на країну.

https://www.molfar.institute/boty-v-informaczijnyh-operacziyah-oznaky-ta-metody-vyyavlennya/
щось то нагадує наші терени форуму з тими не спаннями по добово та кількістю постів без перерв на обід і туалет. :D
   
Що сказати хотів?

 (tu) З вказаного 2017 року повністю перестав читати коментарі в усіх соцмережах з вказаної причини, з 2020 року видалив акаунти з усіх соцмереж де були, і з того моменту не відкривав.
(tu)  і якщо подумаєш,то нічого ти невтратив і не дізнався чогось супер важливого для твого осбистого життя. А от нерви і здоровя зберіг та здатність самому оцінити речі без "допомоги" тої братії на роботі(живої чи штучної-яка різниця).
   
(tu)  і якщо подумаєш,то нічого ти невтратив і не дізнався чогось супер важливого для твого осбистого життя. А от нерви і здоровя зберіг та здатність самому оцінити речі без "допомоги" тої братії на роботі(живої чи штучної-яка різниця).

Алілуїя , брате
   
Улітку...
Вибачаюсь, українець має писати\казати влітку
улітка в усскіх
   
Улітку 2025-го

Обидва варіанти правильні. "Улітку" нормальне, українське, милозвучне слово.
   
інструкція як ламати ботів  :)

   

Цю тему переглядають:

0 Користувачів і 1 гість
 
Повна версія