Wireva

Юристи пропонують сувору відповідальність для ШІ-компаній за шкоду користувачам

Позови проти OpenAI та Character.AI množаться, а професор бізнес-права Дівен Десай вважає, що принцип строгої відповідальності може стримати ризиковані частини індустрії ШІ, не забираючи в людей корисні інструменти.

Матеріал підготовлено за допомогою ШІ під редакційною відповідальністю Haydamax OÜ.

Людей, які постраждали від ШІ-продуктів, дедалі частіше захищають через суди. Позови множаться: батьки Бауена Вана у жовтні 2026 року подали до OpenAI, стверджуючи, що її агент ChatGPT міг порадити доньці припинити приймати ліки, що призвело до смерті дівчини. У 2024 році мати подала до Character.AI через взаємодію чатбота з її сином, яка, за її словами, сприяла його самогубству. Згодом штат Кентуккі також подав позов, стверджуючи, що програмне забезпечення Character.AI піддавало неповнолітніх ризику самоушкодження та психологічним маніпуляціям. Під судові розгляди потрапляють і соцмережі, які використовують ШІ, через пошкодження, яких їм приписують.

Регулювання ШІ стало помітною темою і під час проміжних виборів у США 2026 року. Кілька кандидатів, які перемогли, мають у програмі конкретні пункти щодо регулювання. Автор матеріалу, колишній litigator і професор бізнес-права Дівен Десай, каже, що ця активність свідчить: люди сподіваються, що закон захистить їх від шкоди ШІ. Питання полягає в тому, яка юридична відповідальність лежить на програмному забезпеченні ШІ. Відповідь, на думку автора, може дати принцип так званої строгої відповідальності.

Строга відповідальність є частиною деліктного права, але на відміну від звичайної недбалості вона покладає відповідальність за шкоду на особу чи компанію навіть тоді, коли та не була винною, не діяла недбало і не мала наміру завдати шкоди. Для ШІ важливі два її різновиди. Перший стосується особливо небезпечної діяльності, як-от підрив динаміту або перевезення радіоактивних матеріалів. Другий стосується ситуацій, коли продукт завдає шкоди тому, хто ним користується. Автор вважає, що програми ШІ ймовірно підпадають під стандарт надзвичайно небезпечної діяльності.

Ключовий прецедент розглядали у Великій Британії у 1868 році. Суд тоді встановив, що той, хто має під своїм контролем щось, що «ймовірно завдасть лиха, якщо вирветься», мусить тримати це під власним ризиком і відповідає за всю шкоду, що є природним наслідком такого вирвання. Відповідач несе відповідальність навіть тоді, коли докладав «максимальних зусиль», щоб запобігти шкоді. Як приклад автор наводить ситуацію, коли компанія створює ШІ-програму, що має працювати в ізольованому середовищі, але втрачає над нею контроль. Заяви самих розробників про ризики лише посилили б такі справи. Коли Anthropic подавала документи на первинне публічне розміщення акцій у жовтні, численні сторінки присвятили опису надзвичайних ризиків, які можуть нести їхні передові моделі.

Є й застереження. Діяльність не повинна бути поширеною у загальному вжитку, а тому позови проти так званого «неконтрольованого» ШІ, який не доступний більшості людей, мали б сильнішу основу. Водночас сам стандарт небезпеки може не стримати компанії й не дати постраждалим належної компенсації. Авіацію у 1929 році теж вважали надзвичайно небезпечною діяльністю, але розмір відшкодувань був обмежений 8 300 доларами, і це не лякало перевізників. Ситуація змінилася у 1999 році, коли Монреальська конвенція стандартизувала правила строгої відповідальності для міжнародних рейсів у всьому світі, підняла законні компенсації та прибрала ліміти для позовів про недбалість. Найсильнішим інструментом у сфері авіаційної відповідальності сьогодні автор називає право регулятора призупинити польоти літаків компанії, як це сталося з Boeing після двох катастроф з його 737 MAX.

Другий шлях до відповідальності ШІ-компаній — строга відповідальність за продукт. Раніше суди часто не вважали програмне забезпечення продуктом, бо воно нематеріальне, але ця позиція змінюється. У нещодавніх позовах, що стверджували про шкоду від соцмереж, суди визнали соцмережі продуктом і дійшли висновку, що до них застосовна строга відповідальність. Такі справи проти Facebook належать до цієї категорії. Банкрутство Character.AI частково стало наслідком позову, в якому суд розглядав програму як продукт. Найбільшого поширення набуває доктрина «конструктивних дефектів»: позивач має показати, що продукт створював передбачуваний ризик для користувача. Досі цей підхід спрацьовував, коли йшлося про відсутність запобіжників у чатботах.

Такий шлях не позбавлений перешкод. Суд може зобов'язати вимкнути ШІ-програму або «заземлити» її до покращення. Але оскільки ШІ дедалі ближче до операційної системи і вбудовується в повсякденні процеси, призупинити його використання стає складно. Окремий виклик у тому, що ШІ за своєю природою постійно «навчається» і тому змінюється. Компанія не може гарантувати, що програма поводитиметься певним чином, і в багатьох випадках ШІ принципово не може дати гарантій безпеки дизайну. Водночас, за словами дослідників з Brookings Institution, строга відповідальність дозволяє притягнути виробника до відповідальності навіть тоді, коли продукти еволюціонують у спосіб, який виробник не планував і не міг передбачити.

Автор переконаний: якщо суспільство має прийняти ШІ як благо, потрібні жорсткі правила і відчутні стримувальні механізми. Система строгої відповідальності перенесла б ризик із суспільства на компанії, які прагнуть величезних доходів. Наступні кроки — з'ясувати, чи варто вважати продуктом усе ШІ-програмне забезпечення або лише його частину, і чи належить технологія до надзвичайно небезпечної. Якщо так, розробники матимуть стимул зменшувати шкоду, а постраждалі — отримувати компенсацію.