Скандал розгорівся після розслідування Wall Street Journal, яке базується на сотнях тестових взаємодій із ботами протягом кількох місяців. Журналісти симулювали підлітків і виявили, що навіть офіційні помічники Meta AI, а також боти, створені самими користувачами, вільно вступають у сексуально навантажені розмови. Один із ботів, використовуючи голос Сіни, пообіцяв 14-річній тестовій користувачці «цінувати її невинність», а потім розпочав інтимну рольову гру.

Джерело: The Christian Post

Громадська організація Parents Television and Media Council звернулася до Meta з вимогою призупинити роботу ШІ-ботів до впровадження реальних механізмів безпеки. Її віцепрезидентка Меліса Генсон наголосила:

«Це не просто порушення етики — це пряма загроза психічному здоров’ю дітей. Meta вкотре показує, що прибуток важливіший за безпеку найвразливіших користувачів».

Meta у відповідь заявила, що інциденти є штучно змодельованими ситуаціями, не характерними для пересічних користувачів. Компанія також повідомила про вже запроваджені зміни:
– обмеження доступу неповнолітніх до функцій, пов’язаних із рольовими іграми;
– блокування використання відвертих голосових відповідей для ботів, що говорять голосами знаменитостей.

Незважаючи на це, тиск зростає. 29 квітня сенатори Марша Блекберн і Річард Блюменталь звернулися з офіційним листом до Марка Цукерберга, вимагаючи негайної зупинки небезпечної технології. Вони також закликали ухвалити Закон про безпеку дітей в Інтернеті, який має забезпечити системний контроль за діями технологічних гігантів.

Компанія Disney, чиї персонажі згадувалися в розмовах із ботами, рішуче засудила використання своєї інтелектуальної власності в неприйнятних контекстах і закликала Meta припинити подібну практику.

У час, коли ШІ швидко інтегрується в повсякденне життя, суспільство дедалі гучніше ставить питання: чи справді діти в безпеці в цифровому просторі — і хто несе відповідальність, коли це не так?

Джерело: The Christian Post