Оцінювання AI-моделей, або евали, зазвичай вважають інженерною задачею: скрипти, дашборди, відсотки точності. Проте за кожним таким тестом стоїть рішення про те, що означає «добре» для людини, яка користується продуктом. Саме це, за словами Арін Бгоумік, chief design officer компанії SAP, робить евали природною територією дизайнерів. Вона стверджує, що дизайнери зазвичай долучаються до процесу вже після того, як хтось написав критерії, а іноді не долучаються взагалі. Наслідок — продукт може технічно працювати, але підводити користувачів.
Перша причина стосується смаку і судження. Навіть користувацькі рейтинги можуть вводити в оману: Бгоумік посилається на дослідження Стенфорда, за яким люди довіряли лестивим відповідям ШІ більше, ніж тим, які містили заперечення. Дизайнери щодня дивляться на продукт очима людини і оцінюють відповідь тим, чи допомогла вона тому, хто питав. Команди можуть навчати одну модель оцінювати результати іншої, але комусь із хистом усе одно треба пояснити, що вважати правильним: жаргон, який незрозумілий новачкові, чи бадьору відповідь на скаргу. Такі деталі інженер може пропустити, тоді як фахівець з UX/UI їх помічає.
Друга причина — що робити, коли ШІ не знає відповіді. Моделі часто звучать переконано навіть тоді, коли помиляються. Бгоумік нагадує, що чат-боти інколи змішують правильні й хибні медичні поради, а користувачі не завжди можуть їх розрізнити. Галюцинації погіршують досвід, підривають довіру і змушують людей піти до конкурента. Її пропозиція проста: якщо модель не знає відповіді, вона має це чесно сказати і вказати, куди звернутися. Дизайнери роками працюють з повідомленнями про помилки і глухими кутами, і відсутність відповіді від ШІ — це просто ще один такий кут. Критерієм евалу має стати те, що модель пояснює, чого бракує у відповіді й де це знайти.
Третя причина — реальні користувачі непередбачуваніші за будь-який тест. Дизайнери, особливо UX-дослідники, знають, як люди говорять, забувають, перескакують між темами, і як настрій, час доби та зовнішні обставини впливають на відповідь. Деякі команди будують тестові набори на синтетичних користувачах, але Бгоумік у це не вірить і посилається на опитування, у якому 88% дослідників висловили сумніви щодо якості та точності персон, згенерованих ШІ.
Четверта причина — перевіряти припущення, закладені в самому евалі. Такі припущення рідко записують, і зазвичай вони походять із бізнес-цілей або з того, що найлегше виміряти. Приклад Бгоумік: команда створює чат-бота для служби підтримки, щоб скоротити витрати, і вважає, що люди не хочуть розмовляти з живим оператором. Тоді будь-яка передача діалогу людині вважається провалом, і найкращий результат показує бот, який ніколи нікого не переадресовує, хоча люди не можуть вирішити свою проблему. Дизайнери звикли фіксувати такі припущення і перевіряти їх із реальними користувачами до початку роботи над функцією. Бгоумік радить робити те саме з евалами.
П'ята причина — частина проблем з евалами є проблемами дизайну. Коли тест провалюється, першою реакцією зазвичай є переписати промпт або змінити модель. Інколи це правильно, але часто проблема в самому продукті. Бгоумік наводить міркування Гамеля Хусейна, інженера машинного навчання з понад 20-річним стажем, який викладає AI-евали: якщо відповіді ШІ важко перевірити команді, їх часто важко перевірити і користувачам. Наприклад, асистент для подорожей може забронювати не ту дату, бо користувач написав «наступної п'ятниці», а це може означати два різні дні. Краще промпт тут не допоможе, а от запит на підтвердження точної дати зробить відповідь простішою для перевірки. Це вже рішення дизайну, і такі збої добре видно на юзабіліті-тестах. Тож, перш ніж команда витратить ще тиждень на доопрацювання промптів, Бгоумік пропонує попросити дизайнера переглянути невдалі кейси.
Підсумок авторки зводиться до думки, що інженери й продакт-менеджери і далі вестимуть евали, і так має бути. Але більшість рішень, що стоять за ними, стосується людей, які користуються продуктом, а отже, на думку Бгоумік, дизайнерам варто допомагати формулювати критерії оцінювання ще до того, як вони стануть остаточними. Для українських команд, які запускають AI-функції в продуктах, маркетингу чи e-commerce, це практичний сигнал: включати UX-дизайнера або дослідника в роботу над критеріями якості вже на етапі брифу, а не після провалених тестів.