Засновник компанії Nutrafol і інвестор у сфері штучного інтелекту Йоргос Цетіс закликає запровадити персональну юридичну відповідальність для керівників ШІ-компаній. На його думку, нинішня система, за якої відповідальність несе лише компанія, а не конкретні люди, не створює достатніх стимулів для безпечного розвитку технологій.
Цетіс наводить власний досвід: майже десять років він очолював компанію, що випускала харчові добавки для росту волосся. Якби продукція завдала шкоди, він ніс би відповідальність не лише моральну, а й юридичну. Саме це, за його словами, змушувало його ставитися до безпеки продуктів надзвичайно серйозно. Він переконаний, що такий механізм варто поширити й на розробників штучного інтелекту.
На думку інвестора, керівники ШІ-компаній сьогодні захищені корпоративною оболонкою. Фінансові штрафи за недбалість часто становлять лише незначну частку від обороту та оцінки компанії, тож сприймаються як звичайна стаття витрат. Водночас лідери галузі можуть ухвалювати рішення, які приносять їм особисті мільярди, але не створюють особистого ризику, якщо їхні помилки загрожують суспільству. Цю асиметрію Цетіс називає неприйнятною.
Він визнає, що певні кроки вже зроблено. Штати США запроваджують власні закони про штучний інтелект, а Конгрес розглядає законодавство, яке встановило б вимоги до безпеки для компаній, що працюють на передньому краї ШІ. Наприкінці вересня керівники кількох найбільших ШІ-компаній підписали у Білому домі угоду про внутрішній контроль ризиків, незалежний аудит і нагляд за безпекою на рівні ради директорів. Провідні лабораторії також оприлюднили рамки безпеки.
Однак, зазначає Цетіс, і ці рамки, і угода є добровільними. На його переконання, у випадку зі штучним інтелектом добровільності недостатньо. Наразі ніщо не притягує керівників до особистої юридичної відповідальності. Він нагадує, що виконавчого директора, який спотворив фінансові показники для інвесторів, можуть притягнути до особистої відповідальності. Але рішення, які можуть спричинити самогубство окремої людини, масштабні кібератаки чи геополітичну дестабілізацію, ухвалюються без особистої юридичної загрози.
Інвестор порівнює це з іншим сегментом технологічної індустрії — соціальними мережами, де вже спостерігалися наслідки браку персональної відповідальності. Для штучного інтелекту, на його думку, ставки можуть бути значно вищими.
Цетіс підкреслює, що не вимагає покарання за кожну невдачу. Як і він не міг гарантувати ідеальність кожного свого продукту, ніхто не може гарантувати абсолютну безпеку ШІ-системи. Але коли керівники знають, що їхні системи становлять серйозний ризик, і все одно випускають їх, недостатньо фінансують команди з безпеки, ігнорують їхні попередження або приховують проблеми від регуляторів і громадськості, наслідки мають наставати не лише для компанії, а й для конкретних осіб.
Він залишає законодавцям, юристам, технологам і етикам вирішувати, чи буде ця відповідальність цивільною чи кримінальною, де пролягатимуть пороги та які саме збитки враховуватимуться. Але наполягає: який би обов’язок не встановили, за його виконання має особисто відповідати названий високопосадовець.
На думку Цетіса, штучний інтелект відрізняється від інших галузей тим, що вже вбудовується в усі сфери життя — від енергетичних мереж і лікарень до класів, де навчаються діти. Один збій може мати наслідки для міста, країни чи регіону. До того ж самі розробники попереджали, що ШІ може зрештою вийти з-під контролю людини. На його переконання, надзвичайні ризики вимагають надзвичайної відповідальності.