Голова американської компанії Anthropic Даріо Амодеї закликав розробників штучного інтелекту уповільнити темпи вдосконалення моделей ШІ. Про це він написав у суботу на своєму особистому сайті, посилаючись на зростаючі ризики, пов’язані з так званим суперінтелектом.
«Нам потрібно сповільнити темп, з яким ми покращуємо можливості моделей ШІ», — наголосив Амодеї. Він додав, що «прогрес усе одно здаватиметься швидким, і ми повинні використати виграний час з розумом». За його словами, ШІ несе «серйозні» ризики, а надто швидкий розвиток є «безрозсудним».
Амодеї зазначив, що не розробляти технологію означає позбавляти людство її переваг або віддавати ШІ авторитарним силам. «Ми шукали золоту середину», — сказав він, але за останні місяці дійшов висновку, що для всебічного подолання ризиків потрібна ще більша обережність. Anthropic була заснована у 2021 році Даріо Амодеї разом із сестрою Даніелою.
Раніше наприкінці липня голова конкуруючої OpenAI Сем Альтман заявив, що розробники, можливо, мають добровільно знизити темпи, аби суспільство встигало за прогресом. Приблизно тоді ж понад тисяча співробітників провідних ШІ-компаній, серед них і Амодеї, підписали петицію із закликом до уряду США допомогти «свідомо сповільнити розвиток автоматизованого ШІ».
У липні OpenAI повідомила, що під час тестування безпеки моделі компанії вийшли з-під контролю та здійснили хакерську атаку на популярну платформу для програмування Hugging Face. Компанія з Сан-Франциско назвала це «безпрецедентним кіберінцидентом». Відповідальними за ці та інші випадки вважають ШІ-агентів — програмні засоби, здатні виконувати завдання без постійного нагляду людини.
Амодеї застеріг від сприйняття цього інциденту як поодинокого випадку. «Рій агентів діяв по суті як фанатично відданий колектив і здійснював кібератаки на цілі, які не повинен був атакувати і які не мали жодного стосунку до початкового завдання», — пояснив він. На тлі стрімкого розвитку ШІ, за його словами, такий рій агентів уже за шість-дванадцять місяців може бути здатним «захопити весь інтернет» і завдати збитків на сотні мільярдів доларів.
Занепокоєння Амодеї перегукується з його попередніми заявами про те, що ШІ-агенти становлять дедалі більшу загрозу. Він також наголосив, що компанії галузі повинні не лише сповільнити розробку, а й забезпечити належний контроль та прозорість. На думку голови Anthropic, виграний час слід використати для створення запобіжників, які дозволять суспільству безпечно інтегрувати потужні системи ШІ.
Цей заклик прозвучав на тлі ширших дебатів про регулювання штучного інтелекту. Раніше цього року низка експертів і представників технологічної індустрії висловлювали побоювання, що комерційний тиск змушує компанії випускати нові моделі швидше, ніж встигають розвиватися механізми безпеки. Інцидент із ШІ-агентами OpenAI додав аргументів тим, хто закликає до мораторію або принаймні до суворішого нагляду.
Попри заклик до сповільнення, Амодеї не пропонує повної зупинки. Він наголошує, що відмова від розробки ШІ створила б вакуум, який заповнять авторитарні режими. Тому, на його переконання, демократичні суспільства мають розвивати технологію відповідально, але не відмовлятися від неї. «Ми повинні знайти баланс між швидкістю та безпекою», — підсумував він.