У вівторок OpenAI представила нову версію свого флагманського чатбота ChatGPT, розроблену спеціально для підлітків. Вона має посилені механізми захисту й контролю. Компанія запустила її після критики та судових позовів через звинувачення в тому, що чатбот підштовхнув деяких користувачів до самогубства.
Що відомо про ChatGPT for Teens та як працює підліткова версія від OpenAI?
Налаштування версії під назвою ChatGPT for Teens автоматично застосовуватимуться до акаунтів користувачів віком від 13 до 17 років. Їх також вмикатимуть, якщо компанія визначить користувача як неповнолітнього за характером використання сервісу або даними облікового запису.
Більшість цих механізмів захисту вже діяла в акаунтах неповнолітніх. Зокрема, обмеження стосувалися відповідей на запити про самоушкодження, насильство, розлади харчової поведінки та відвертий сексуальний контент.
Нова версія частіше нагадуватиме користувачам зробити перерву. Вона також передбачає «тихі години», коли доступ до чатбота буде закритий, і навчальний режим. У ньому ChatGPT не видає готової відповіді, а ставить навідні запитання, щоб, за словами OpenAI, «допомогти підліткам зрозуміти матеріал».
Чатботу також заборонено створювати враження, ніби він має особисті почуття до користувача або власну свідомість. Деякі функції, зокрема голосовий режим, у підлітковій версії недоступні.
Батьки зможуть пов’язати свій акаунт з акаунтом дитини й отримувати сповіщення, якщо система виявить у розмовах ознаки небезпечної ситуації — наприклад, обговорення самоушкодження чи самогубства.
Перед надсиланням батькам такі сповіщення перевірятимуть модератори. Конкретні подробиці листування з них вилучатимуть, щоб захистити приватність підлітка.
Новий режим запускають на тлі посилення юридичного та регуляторного тиску на OpenAI.
Компанія фігурує в кількох позовах, у яких її звинувачують у причетності до смерті користувачів. Один із них подали батьки 16-річного Адама Рейна, який наклав на себе руки, нібито скориставшись порадами ChatGPT.
Федеральна торгова комісія США також розпочала перевірку чатботів зі штучним інтелектом, які виконують роль віртуальних співрозмовників. Особливу увагу відомство приділяє можливим ризикам для дітей і підлітків.
Як і компанії-власники соцмереж, технологічні гіганти у сфері ШІ стикаються з дедалі жорсткішими вимогами регуляторів. У Конгресі США зареєстрували кілька законопроєктів про регулювання чатботів, а Каліфорнія вже вимагає запроваджувати засоби захисту в ШІ-асистентах, які виконують роль віртуального друга або довіреного співрозмовника.
Інші розробники штучного інтелекту також зазнали критики через проблеми, пов’язані з використанням їхніх продуктів неповнолітніми. Деякі компанії, зокрема конкурент OpenAI — Anthropic, вирішили надавати доступ до своїх моделей лише дорослим.