Колишня менеджерка з продукту Facebook Френсіс Гауген, чиї викриття 2021 року стали основою для нового фільму Аарона Соркіна «The Social Reckoning», заявила, що генеральний директор Meta Марк Цукерберг «грає з вогнем», просуваючи штучний інтелект. Про це вона розповіла в інтерв'ю, опублікованому напередодні виходу стрічки в американський прокат.
Гауген, яку у фільмі зіграла Майкі Медісон, була менеджеркою з продукту в команді громадянської цілісності Facebook. У 2021 році вона вийшла з компанії з десятками тисяч сторінок внутрішніх документів і передала їх журналісту Wall Street Journal Джеффу Хорвіцу. На їх основі було опубліковано серію розслідувань The Facebook Files, яка, зокрема, показала, що власні дослідники компанії виявили: Instagram погіршує сприйняття власного тіла в частини підлітків. Гауген подала скарги до Комісії з цінних паперів і бірж США та свідчила в Сенаті, а її викриття згодом сприяли хвилі судових позовів проти соцмереж.
За її словами, Meta не змінила культуру від часу скандалу. «Я не бачила зміни культури, яка б свідчила, що вони перегорнули сторінку», — сказала вона. Гауген вважає, що Цукерберг прагне позитивної спадщини, а його ставка на ШІ зумовлена бажанням наздогнати лідерів ринку — Anthropic та OpenAI. «Він хоче наздогнати, тому хоче, щоб не було жодних обмежень, поки він принаймні не опиниться за одним столом із великими хлопцями», — зазначила вона, коментуючи антирегуляторну позицію Цукерберга. Meta не відповіла на запит про коментар.
Попри занепокоєння, Гауген не підтримує паузу в розробці ШІ. «Ми ніколи не робили заборони там, де могли належно перевірити. Уповільнення означає лише, що перемагає той, хто не хоче сповільнюватися», — пояснила вона. Натомість вона підтримує ідею незалежних аудиторів, яку запропонував генеральний директор Anthropic Даріо Амодеї. Він пропонує надавати стороннім оцінювачам постійний доступ до перевірки практик безпеки та звітування про інциденти. Генеральний директор OpenAI Сем Альтман заявив, що його компанія готова до того ж. Гауген наполягає, що такий аудит має бути вимогою закону для всієї галузі — так само, як зовнішні аудитори мають право перевіряти звітність банків.
Вона визнає, що ШІ-компанії публікують значно більше досліджень про свої продукти, ніж свого часу Facebook, але сумнівається, чи опубліковане відображає те, що насправді відбувається всередині. За її оцінкою, коли вона йшла з компанії, та виявляла близько 5% шкідливого контенту. Навіть дуже досконалий ШІ, за її прогнозом, зможе охопити лише 10–20%, адже мова надзвичайно нюансована. «Справжнє рішення — проєктувати системи безпечнішими від самого початку, а не намагатися очистити їх у кінці», — наголосила Гауген.
Тим часом Meta продовжує змінювати підхід до модерації. Торік компанія переорієнтувала автоматичну модерацію на порушення високої тяжкості та замінила частину американської програми сторонньої перевірки фактів на систему Community Notes за зразком X. Цього року вона пішла далі: у березні заявила, що менше покладатиметься на зовнішніх підрядників і людей-виконавців, а в червні Financial Times повідомила, що ШІ-моделі вже перебрали на себе близько половини запитів на людську перевірку.
Гауген сподівається, що фільм спонукає працівників передових ШІ-лабораторій побачити себе в її персонажі. «Якщо вони щось бачать, то відчувають, що можуть про це сказати», — зазначила вона. Її історія вже стала основою для законодавчих і судових ініціатив щодо соцмереж, і тепер вона хоче поширити цей досвід на сферу штучного інтелекту, де, на її думку, бракує обов'язкового зовнішнього контролю.