Meta почала впроваджувати нову функцію батьківського контролю, яка повідомлятиме дорослих про потенційно небезпечні розмови підлітків із чат-ботом Meta AI, пов’язані із самогубством або самоушкодженням.
Про це повідомляє ABC News.
ПРИЄДНУЙТЕСЯ ДО НАС
Підписуйтесь на наш Viber-канал.
Як працюватиме нова функція Meta?
Нова функція «Повідомлення для батьків» стане доступною з четверга для користувачів інструментів батьківського контролю в США, Великій Британії, Канаді та Австралії. До кінця року компанія планує запровадити її в інших країнах світу.
Як пояснили в Meta, якщо система виявить ознаки потенційно небезпечної розмови підлітка з Meta AI, батьки отримають відповідне сповіщення.
Разом із ним надсилатимуть інформаційні матеріали, підготовлені за участі фахівців із психічного здоров’я, які допоможуть обговорити з дитиною тему самогубства та самоушкодження.
Мальтійський Орден виступив за людиноцентричний розвиток ШІ для відновлення України
Компанія зазначає, що алгоритм штучного інтелекту, який аналізує такі діалоги, розробили після консультацій із батьками та експертами.
Крім того, кожне повідомлення, яке система позначить як потенційно небезпечне, перед надсиланням перевірятиме співробітник компанії. Якщо ситуація залишатиметься неоднозначною, Meta обіцяє діяти за принципом максимальної обережності.
Які ще заходи безпеки впроваджує компанія?
У Meta нагадали, що мінімальний вік для користування Facebook та Instagram становить 13 років. Для всіх користувачів віком до 18 років автоматично застосовуються налаштування безпеки для підліткових акаунтів, які також поширюються на взаємодію з Meta AI.
Компанія також працює над функцією, яка дозволить звертатися до служб екстреної допомоги, якщо спілкування з чат-ботом свідчитиме про безпосередню загрозу самогубства.
Для вдосконалення реакції Meta AI на подібні запити компанія залучила експертів, які спеціалізуються на психічному здоров’ї дітей та підлітків.
Які подібні рішення вже запровадили інші компанії?
Минулого року OpenAI повідомила про запуск інструментів батьківського контролю для підлітків. Компанія також використовує модель оцінки віку користувачів, яка автоматично застосовує спеціальний підлітковий режим для осіб молодше 18 років.
Згідно з політикою OpenAI, ChatGPT доступний користувачам від 13 років, а підлітки віком від 13 до 18 років повинні отримати згоду батьків на використання сервісу. Підлітковий режим передбачає додаткові механізми захисту та обмеження доступу до чутливого контенту.
Раніше ми писали, що Міністерство цифрової трансформації запустило на платформі «Дія.Освіта» новий державний сервіс для працевлаштування — Кар’єрну студію зі штучним інтелектом.
