Соціальні мережі могли знищити ботів. Але не зробили цього.

Розділ 1: Теорія мертвого інтернету не мала стати правдою

Сьогодні важко знайти соціальну мережу, яка була б не переповнена ботами. Вони заповнили все: коментарі, пости, рекламу і т.д. Постійно симулюючи життя, якого немає. Немов рій бджіл, який іде за своєю королевою, вони атакують все, на що вказують їхні творці. Жоден бот не був створений заради хорошої мети. Одні маніпулюють суспільною думкою, а інші збирають дані від людей, які навіть не підозрюють, що вони є жертвами. На їх функціонування витрачаються величезні ресурси, але результат перевершує всі очікування. За допомогою ботів можна досягти результатів, які раніше були просто неможливими.

Хочете зробити людину знаменитою? Бам! І мільйони ботів витягнуть посередню людину в лідери думок. Вчинили щось погане? Не біда! Розповсюдьте тисячі різних версій цієї події і правда розчиниться в морі брехні.

І так далі і далі і далі. Безкінечний потік брехні та маніпуляцій, які, здається, ніколи не закінчаться.

Однак це не єдина проблема. Боти не були б такі ефективні, якби люди могли інтуїтивно їх відсіювати. Глибокий аналіз бота дозволяє виявити його будь-якій людині, але люди просто не приділяють цьому уваги. Чому? Хтось може сказати, що це людська лінь, і в цьому є частка правди, але я переконаний, що корінь проблеми в тому, як останні тисячі років люди сприймали інформацію. Те, що було написано на папері, в книзі, в газеті, в журналі, на телебаченні, на радіо - все це було сприйнято як щось правдиве. Люди не звикли сумніватися в тому, що вони читають чи бачать. Вони просто приймають це за правду.

«Це повідомлення - воно ж так виглядає натурально, ніби його написав мій знайомий чи родич. Це не може бути підставна людина або АІ. Машина на таке не здатна!» Здатна! І вони це роблять.

І найбільш вразливими виявилися люди, які сформувалися до появи Інтернету або на початкових його стадіях. У них немає інстинкту відсіювання інформації, вони просто приймають все за правду. Молодше покоління теж від цього не застраховане, бо з’явився новий гравець - AI. Однак мова не про це, а про те, що боти існують, вони маніпулюють людьми або цілими країнами, збирають дані і розчиняють реальні злочини в потоці дезінформації.

Незважаючи на те, що кількісно їх може бути не так багато, вони генерують на порядок більше контенту, ніж люди. І цей контент має величезний вплив на людей, які його споживають. Вони формують їхню думку, їхні погляди, їхні переконання.

Кожного дня, відвідуючи соціальні мережі, ви буквально занурюєтесь в океан фейкової інформації. І компанії, які керують цими соціальними мережами, це знають. Вони створюють видимість того, що борються з ними, але це тільки видимість, бо у них уже зараз є всі технічні можливості вбити їх усіх. Просто задумайтесь: вони здатні виявити порушення авторських прав за секунди, розпізнавати обличчя, визначати оголений контент, рекламувати певні продукти, цікаві тільки вам, але вони не можуть виявити ботів? Ботів, яких може виявити навіть людина, яка не має жодного досвіду в цьому? Це вистава для публіки, і фінал уже відомий.

Розділ 2: Машина знає, що це саме ти

Кожного разу, коли ви відвідуєте будь-яку веб-сторінку, про вас уже багато чого відомо. Без реєстрації та входу ви вже по-своєму унікальні. Це не тільки IP-адреса, але й багато іншого. Ваш браузер, його версія, операційна система, роздільна здатність екрану, встановлені шрифти, мова, часовий пояс, геолокація і т.д. Розробник сайту може присвоїти вам унікальний ідентифікатор на основі цих даних і зберегти кожну дію, яку ви виконали на його веб-сайті. Наступного разу ви для нього вже не анонім, а конкретна людина, яка цікавиться саме таким типом інформації та відвідує його сайт саме в ці години. І це без реєстрації та входу.

Якщо ви зареєстровані, то це ще більше інформації про вас. Ваше ім’я, електронна пошта, номер телефону, дата народження, стать, інтереси і т.д. Ви можете сказати, що це все може бути фейкове! І це правда, але навіть якщо ви створите фейковий акаунт, то він все одно буде унікальним і його можна буде відстежувати. Неважливо, фейковий це акаунт чи ні. Його патерни поведінки будуть казати про вас більше, ніж ви думаєте.

А тепер уявіть, що можуть соціальні мережі. Вони знають про вас так багато, а головне - вони знають, як поводиться реальна людина. Реальна людина, коли гортає стрічку, затримує погляд на певних постах, відволікається, друкує з певною швидкістю, робить помилки і т.д. Наша недосконалість робить нас людяними, а значить видимими для алгоритмів. Боти не можуть імітувати людську поведінку, вони можуть тільки її копіювати, але додай всього 1-2 нових параметри - і вони проявляться як підсніжники навесні.

Кожний з нас має унікальну рутину в соціальних мережах, але боти теж її мають. Вони активізуються в певний час та дуже крутяться навколо певної тематики. Навіть якщо ви найзаядливіший анархіст, ви все одно не будете з ранку до ночі просувати одні й ті самі ідеї. Це просто специфіка нашого розуму - ми втомлюємося, нам стає нудно, ми відволікаємося на інші речі. Їм не нудно, вони не люди, і власники соціальних мереж це знають.

Розділ 3: Тиждень, коли боти могли померти

Ок, скажете ви. Ну знають вони про ботів, але можливо у них немає інструментів для їх блокування. Можливо, вони бояться, бо якщо почнуть блокувати ботів, то мільйони невинних людей будуть заблоковані. Це теж не так. Ніхто не каже блокувати акаунти негайно, можна почати з того, щоб обмежити кількість дій для нових акаунтів, вимагати підтвердження номеру телефону та електронної пошти, обмежити кількість постів та коментарів для нових акаунтів і т.д.

Логічно заперечити і сказати, що це може зашкодити реальним людям, а для ботів куплять тисячі номерів телефонів та зареєструють тисячі електронних поштових скриньок. Вони так і зробили і сказали, що зробили все, що змогли, а вартість оперування ботофермами зросла, але це не так. Вони просто створили нову нішу для ботів, які спеціалізуються на обході цих обмежень. Вони можуть купити тисячі номерів телефонів та електронних поштових скриньок, але вони не можуть створити тисячі акаунтів з унікальними патернами поведінки. Вони не можуть створити тисячі акаунтів, які будуть вести себе як реальні люди.

Саме тут має проявитися сильна сторона соціальних мереж - вони можуть виявити ботів за їхньою поведінкою, бо вони мають усі потрібні дані для цього, а головне - компетенцію, технології та ресурси. Я ще раз нагадаю - вони створили LLM, який може генерувати текст на рівні людини, але вони не можуть виявити бота, який генерує текст на рівні людини?

І це ми обговорюємо тільки базові методи, які вже зараз використовують банки, SaaS-компанії та інші організації для виявлення шахраїв. Навіть самі соціальні мережі, але для соціальних мереж дуже важливо, щоб в них не було саме дуже очевидних і токсичних ботів, які шкодять їхній бізнес-моделі, а якщо ти шкодиш тільки психіці людини, то це не страшно - тримай цукерку.

Розділ 4: Цифри, які ніхто не хотів вбивати

Коли з’явилися сучасні соціальні мережі на зразок MySpace (2003), Facebook (2004), Twitter (2006), то про них говорили в контексті кількості користувачів. У себе на головній сторінці вони вказували кількість користувачів, які зареєстровані на їхній платформі. В своїх анонсах вони тільки й говорили, що досягли такої-то кількості користувачів. Це було їхньою головною метрикою, яка показувала їхній успіх. Але кількість користувачів не є показником успіху, якщо ти продаєш рекламу і це основа твого бізнесу.

І тоді вони ввели термін «активні користувачі». Для них стало важливо показувати, що користувачі стільки-то часу проводять на платформі, лайкають, коментують, діляться контентом і т.д. Графіки росли вгору, а з ними і їхні доходи від реклами.

І знаєте, хто ще дуже активний в соцмережах? Боти. Вони не тільки створюють контент, але й змушують реальних людей взаємодіяти з ними. Усі у виграші. Боти отримують те, що вони хочуть - увагу реальних людей, а соціальні мережі отримують те, що вони хочуть - активних користувачів. Ну окрім реальних людей, які отримують те, що вони не хочуть - токсичних ботів та фейкову інформацію.

Але це не так важливо, бо вони не є їхньою цільовою аудиторією. Їхньою цільовою аудиторією є рекламодавці, які платять за доступ до активних користувачів. І якщо боти допомагають їм досягти цієї мети, то навіщо їх вбивати? Вони можуть бути токсичними, але вони приносять гроші. Вони можуть бути фейковими, але вони приносять гроші. Вони можуть бути шкідливими, але вони приносять гроші. І це головна причина, чому соціальні мережі не вбивають ботів - вони просто не хочуть втрачати гроші.

Розділ 5: Театр модерації

І знову ж ви можете мені заперечити і сказати, що вони все-таки щось роблять. Вони видаляють деяких ботів, вони блокують деякі акаунти, вони вводять нові правила і т.д. Це правда. Вони навіть тепер надають метрики, в яких вказують, скільки у них реальних активних користувачів і скільки приблизно ботів. Зазвичай вони кажуть, що 10-15% їхніх користувачів є ботами. Числа ніби не великі, але зачекайте - то ви знаєте, що це боти, і можете їх заблокувати, і не робите цього?

Я не здивуюся, якщо вже зараз вони знають кожного бота в своїх соцмережах, але не намагаються їх заблокувати. Це просто театр модерації, де вони браво рапортують сенату США чи Єврокомісії про свої успіхи в боротьбі з ботами. Але роблять вони це в таких масштабах, щоб їхні графіки не впали, а доходи від реклами не зменшилися.

Компанії, які керують соціальними мережами, - це комерційні організації, які мають одну головну мету - заробляти гроші. Вони не є благодійними організаціями і роблять рівно стільки для боротьби з ботами, рівно скільки від них вимагають контролюючі органи. Не тіште себе ілюзіями - якщо завтра регулятори заберуть усі обмеження, то вони не знищать жодного бота. Ну може деяких все ж прикриють, але тільки якщо це впливає на їхні доходи. Це просто безкінечна гра в кота і мишу, де соціальні мережі роблять вигляд, що вони борються з ботами, а боти продовжують існувати і розвиватися.

Розділ 6: Вибір

Проблема ботів існує не тому, що її неможливо вирішити, а тому, що це має свою ціну і цю ціну має заплатити кожен. Для користувачів це більш жорсткі обмеження: ліміти на кількість постів, коментарів, лайків, репостів для нових акаунтів, обов’язкове підтвердження номеру телефону та електронної пошти і т.д. Для соціальних мереж це втрата частини доходів від реклами і витрата додаткових ресурсів на виявлення все нових і нових ітерацій ботів. Рекламодавці можуть бути не задоволені тим, що їхні оголошення будуть показуватися меншій кількості людей. Навіть регулюючим органам доведеться більше уваги приділяти тому, щоб соціальні мережі виконували свої обіцянки щодо боротьби з ботами.

Це вибір, який кожний учасник цього процесу має зробити або не зробити. А як ми знаємо, не зроблений вибір - це теж вибір. І якщо ми не зробимо вибір, то соціальні мережі зроблять його за нас, і це буде вибір на користь ботів.

Ми занадто довго давали їм робити все, що вони хочуть, а розплатою стало наше ментальне здоров’я, наша приватність, наша безпека і навіть наша демократія. У нас є всі можливості, щоб тиснути на соціальні мережі. Дехто пішов простим шляхом - видалив свої акаунти і перестав користуватися соціальними мережами. Це радикальний крок, але він може бути ефективним, якщо достатньо людей його зробить. Інші можуть вибрати більш поміркований підхід - вимагати від соціальних мереж більшої прозорості щодо їхніх алгоритмів та політик модерації, підтримувати законодавчі ініціативи, які спрямовані на боротьбу з ботами, або просто бути більш обережними щодо того, що вони споживають в соціальних мережах і як вони взаємодіють з контентом.