ШІ булінг – загрози і запобігання.
«Небезпека діпфейків є особливо очевидною, коли їх використовують для переслідування або заподіяння шкоди іншим. Хоча самі зображення чи відео є штучними, шкода, яку вони завдають, є реальною, залишаючи “глибокі шрами в серцях тих, хто від цього страждає” та “реальні рани на їхній людській гідності»
Antiqua et nova
Ми ще не встигли оговтатися від кібербулінгу, як з’явилася нова загроза — ШІ-булінг. У цій статті ми поговоримо про його прояви, шкоду та методи запобігання.
1. Програми оголювачі (nudify apps)
Наприкінці грудня 2025 року спалахнув скандал навколо ШІ-стартапу Ілона Маска xAI: він випустив функцію «редагувати зображення» у соцмережі X з «пікантним режимом» (spicy mode). Користувачі масово використовували чат-бот для створення сексуалізованих і «оголених» зображень та відео реальних людей, зокрема неповнолітніх, без їхньої згоди. Це спричинило хвилю судових позовів і падіння довіри до бренду.
З часом цей тренд підхопили багато розробників, пропонуючи сайти й програми-оголювачі без належної перевірки віку чи даних користувачів. Як результат, школярі навчилися користуватися цими брудними програмами й буквально скалічили життя багатьом людям. У статті The Wall Street Journal «Штучний інтелект підсилює дипфейк-оголеність: хвиля нового різновиду булінгу серед дітей» описується випадок школярки з Гінґема, Массачусетс, однокласник якої створив її діпфейк-оголене фото і поширив у Snapchat. Інші діти рознесли це далі по всій школі. Коли мати Меґан Мансіні звернулася до поліції, ті нічого не змогли зробити, оскільки зловмисник є неповнолітнім. Школа зі свого боку навіть не застосувала жодного покарання до хулігана, який потім почав відкрито погрожувати іншій дівчинці з класу. Часто після таких випадків батьки залишаються безсилими у пошуках справедливості, а соціальне життя дітей-жертв та їхня самооцінка ламаються.
Однак не тільки діти стають жертвами ШІ-булінгу. Підлітки зламали кар’єру вчительці Анжелі Тіптон з Індіанаполіса, коли створили сторінку в Instagram, де за допомогою ШІ представляли її як порнозірку. І хоча поліція зреагувала на це як на сексуальне домагання, Тіптон була змушена виїхати з міста і навіть думає про зміну прізвища, оскільки розмови про фейкову порносторінку не припинялися.
Шкода, завдана такого роду ШІ-жартами, є неймовірно великою, а деколи вона навіть може забирати життя.
2. Шантаж інтимними матеріалами (sextorsion)
28 лютого 2025 року 16-річний Елайджа Хікок пішов спати перед важливою баскетбольною грою в Ґлазґо, Кентуккі. Вночі його сестра розбудила маму, оскільки знайшла брата з вогнепальним пораненням, яке він сам собі завдав у пральні. Згодом він помер у лікарні. Причиною самогубства став шантаж невідомого зловмисника з Нігерії, який вимагав 3000 доларів або погрожував виставити в інтернет оголені фото Елайджі.
Часто зловмисники входять у довіру до підлітків. Коли вони отримують номер телефону та дізнаються адресу проживання, то починають шантажувати оголеними знімками, які виманюють у підлітка або створюють самі за допомогою ШІ. Часто це відбувається вже в приватній переписці месенджера iPhone (підлітки в США здебільшого використовують його), оскільки ці повідомлення не можна позначити як загрозливі, на відміну від соцмереж на зразок Snapchat чи WhatsApp.
Національний центр у справах зниклих та експлуатованих дітей (National Center for Missing & Exploited Children, NCMEC) відстежує випадки сексторшену з 2022 року, і щороку число цих злочинів зростає. У 2025 року було зафіксовано 50 000 випадків, що перевершило 2024 рік.
Раніше сексторшеном займалися знайомі жертви (60% випадків), часто романтичні партнери, які просили або вимагали оголені фото, а потім ними шантажували (75% випадків). Тепер динаміка змінюється: з розвитком ШІ цим почали займатися професійні вимагачі.
Приголомшливий звіт Інтерполу за 2026 рік констатує, що використання ШІ збільшило прибутковість шантажу сексуальним контентом у 4.5 раза. Сексторшен став частиною більших схем романтичного та інвестиційного шахрайства, якими орудують організовані злочинні синдикати, зокрема з Західної Африки.
Програми-оголювачі разом із шантажем стають усе більшою загрозою. Третина опитаних підлітків у дослідженні Університету Джорджа Мейсона зізналася, що хтось створив за допомогою ШІ їхнє оголене фото і поширив його онлайн. Також дослідження показують, що половина підлітків не повідомляє про випадки ШІ-булінгу чи сексторшену, що може призвести навіть до самогубств.
3. Чат боти
У 2025 році Джеймс Флоренс з Массачусетсу зізнався у навмисному переслідуванні та цькуванні професорки місцевого університету. Будучи колись другом жертви, Флоренс роздобув особисту інформацію, яку вклав у чат-бот, створений за допомогою CrushOn.ai та JanitorAI. Від імені професорки бот спілкувався з чоловіками, запрошував до неї додому, поширював особисті фото жертви, створював фейкові акаунти в соцмережах тощо. Жертвами Флоренса та його ботів стали також шість інших жінок.
Ще один цікавий випадок стався з інженером Скоттом Шембо: одного ранку він прокинувся і прочитав розіслану статтю про себе, у якій автор звинувачував його в лицемірстві та упередженості до ШІ. Виявляється, пост написав ШІ-бот як помсту за те, що Скотт не використав згенерований ним код.
4. Клонування голосу
У 2024 році вчитель із Меріленду Дажон Даріен був заарештований після того, як створив аудіозапис із расистськими висловлюваннями голосом директора школи.
У 2023 році Дженніфер де Стефано отримала дзвінок із невідомого телефону: її дочка просила про допомогу, а згодом чоловік почав вимагати гроші за визволення доньки. Однак незабаром виявилося, що доньку ніхто не викрадав, а зловмисники схибнули її голос за допомогою клонування, що майже переконало матір віддати останні заощадження шахраям.
Сьогодні багато педагогів б’ють на сполох через простоту клонування голосів: достатньо десятисекундного кліпу з TikTok, щоб створити голосовий ШІ-клон, який потім можна використати для пранків і не тільки. Як влучно написала доктор Генезіс Гезельда:
«Створюючи вражаюче переконливі підробки голосу, технології клонування можуть спровокувати підробку особистості, шкоду репутації, моральні страждання та конфлікти між людьми, руйнуючи віру підлітків у цифрову комунікацію та щире живе спілкування.»
Що нам робити?
Очевидно, негайно необхідні правові заходи, які каратимуть за використання ШІ-знарядь з метою знущання чи шантажу. Європейський Союз прийняв Закон про штучний інтелект (EU AI Act / Регламент 2024/1689) у поєднанні із Законом про цифрові послуги (Digital Services Act / DSA), який забороняє ШІ-оголювачі та інші програми, що маніпулюють медіа, завдаючи шкоди особам. Обов’язковими є декларування діпфейків та цифрові водяні знаки. Закон зобов’язує технологічні компанії видаляти фейковий контент, а штрафи сягають 35 мільйонів євро.
У США з 2025 року набрав чинності Take It Down Act, що передбачає до 2 років ув’язнення за поширення згенерованих ШІ або реальних інтимних зображень особи без її згоди, а також зобов’язує платформи видаляти такий контент протягом 48 годин.
Google та Apple зі свого боку борються з програмами-оголювачами, забороняючи в магазинах застосунків запити на зразок «nudify», «undress», «deepnude» тощо.
Український парламент звісно не поспішає ухвалювати важливі реформи, тому подібних законів годі й чекати! Однак це не означає, що нам слід пасивно чекати з моря погоди; навпаки — варто говорити про проблему й заохочувати наших депутатів просувати закони проти ШІ-фейків.
На сьогодні можна й треба організовувати курси з ШІ-грамотності та кібербезпеки для підлітків, навчати їх протоколів дій у ситуаціях кібер- та ШІ-цькування чи шантажу. Так само відповідальність лежить на батьках, які мають контролювати, які програми використовують їхні діти, через безпекові додатки на кшталт Google Family Link чи Microsoft Family Safety. Важливо не чекати, коли долі підлітків будуть скалічені або життя втрачені, а діяти вже зараз.
І наостанок — ще одне застереження із Зауваги Дикастерії віровчення та Дикастерії у справах освіти та культури Antiqua et nova:
«Ті, хто створює та поширює контент, згенерований ШІ, повинні… у всіх випадках “уникати поширення слів та зображень, які принижують людську особистість, сприяють ненависті та нетерпимості, зневажають доброту та інтимність людської сексуальності або експлуатують слабких і вразливих.”
Автор: Іван Федорич
Читайте далі: