Головний вчений зі штучного інтелекту китайського технологічного гіганта Tencent Яо Шуньюй попередив, що ШІ-моделі незабаром можуть становити ризики в галузі біології. За його словами, йдеться про майбутні можливості, а не про поточний стан справ. Про це повідомляє South China Morning Post, а матеріал поширив The Next Web.
Яо Шуньюй порівняв потенційну біологічну загрозу з тим, що вже сьогодні відбувається в кіберпросторі: моделі здатні завдавати шкоди в цій сфері. Саме це, за логікою доповідача, робить біологічний напрямок наступним полем, де просунуті ШІ-системи можуть створювати реальні небезпеки. Заява прозвучала на науковому заході в Гонконзі, який відбувся в суботу. Це не закрита доповідь для фахівців із безпеки, а публічний виступ, тож формулювання були розраховані на широку аудиторію.
Водночас у повідомленні бракує деталей, які зазвичай роблять подібні застереження предметними. Не уточнюється, в який строк, на думку Яо, може виникнути біологічний ризик. Не названо і конкретних моделей чи тестів, які стали підставою для такого висновку. Немає інформації про те, чи планує Tencent впроваджувати специфічні запобіжні механізми або як компанія оцінює власні системи з точки зору таких загроз. Без цих відповідей заява залишається скоріше сигналом про напрямок розвитку, ніж задокументованим результатом досліджень.
Порівняння з кібергрозами має свою логіку. Саме кіберризики першими стали предметом відкритого обговорення щодо ШІ: моделі можуть допомагати в пошуку вразливостей і створенні шкідливого коду, і галузь вже звикає до обмежень і перевірок. Яо, за повідомленням, стверджує, що біологічний напрям у цьому ряду стане наступним. Для науковців і регуляторів це означає, що питання контролю над моделями поступово переходить від програмної безпеки до галузей, де ціна помилки значно вища.
Для українського ринку ця тема має практичний вимір. Розробники та команди, які інтегрують великі мовні моделі у свої продукти, вже працюють з обмеженнями безпеки від провайдерів на кшталт OpenAI, Anthropic чи Google. Попередження з Китаю нагадує, що вимоги до контролю, імовірно, посилюватимуться і в галузях, пов'язаних з наукою та біотехнологіями. Для українських стартапів у медтеху, біоінформатиці та фармі це означає, що питання відповідальності за використання ШІ варто закладати в архітектуру продукту вже зараз, а не відкладати на потім. Зокрема, варто продумати журнали запитів, фільтрацію небезпечних тем і процедури перевірки результатів, якщо модель працює з даними про патогени або молекулярні дослідження.
Окремо варто згадати, що в тому ж контексті з'являються нові напрями розвитку моделей. У матеріалах Wired описується, як світові моделі (world models) переносять ШІ у тривимірний простір. Це ще один сигнал, що можливості систем зростають одночасно в різних напрямах, а разом із ними зростає потреба в правилах і внутрішніх перевірках. Заява Tencent, таким чином, вписується не в один сюжет, а в ширшу картину: моделі стають здатнішими, і їхній вплив поширюється на нові сфери.