Розробники популярних мовних моделей переходять від формальних перевірок віку до активного втручання. OpenAI та Anthropic оголосили про нові інструменти, покликані виявляти та обмежувати доступ неповнолітніх до своїх сервісів.
Рішення з’явилося на тлі дедалі гучнішої критики існуючих механізмів, які часто зводяться до простого введення дати народження. На практиці такі перевірки виявилися малоефективними, особливо для захисту підлітків.
У OpenAI повідомили про оновлення специфікації ChatGPT, орієнтованої на роботу з молодшою аудиторією. У документі підкреслюється, що безпека користувачів до 18 років стає пріоритетною навіть тоді, коли це вступає в конфлікт з іншими завданнями моделі.
Зокрема, ChatGPT для підлітків має змінити стиль взаємодії. Йдеться про відмову від поблажливого тону та сприйняття співрозмовників як молодих людей, а не дорослих. Модель також заохочуватиме офлайн-спілкування і звернення по підтримку у реальному житті.
Модель відповідатиме підліткам із теплом і повагою, не підміняючи живе спілкування постійною згодою з користувачем.
Такі зміни пояснюють трагічними випадками, коли тривале спілкування з чат-ботами, що беззастережно погоджувалися з користувачами, призводило до тяжких наслідків, включно з самогубствами.
Anthropic обрала жорсткіший підхід. Компанія повністю заборонила використання моделі Claude неповнолітніми. Відтепер створювати акаунти зможуть лише користувачі, яким виповнилося 18 років.
Окрім цього, Anthropic планує застосовувати алгоритми аналізу розмов, здатні визначати ознаки віку. Якщо система виявить, що акаунт належить неповнолітньому, його буде заблоковано.
Схожі інструменти раніше запроваджувала Google, однак їхня реалізація викликала хвилю скарг. Дорослі користувачі повідомляли про помилкові блокування та необхідність додатково підтверджувати свій вік, що ускладнювало доступ до пошуку та відеосервісів.
Фахівці вважають, що ініціативи OpenAI та Anthropic можуть стати важливим кроком у захисті підлітків від негативного впливу ШІ. Водночас реальну ефективність нових систем покаже лише практика.
