Компанія OpenAI офіційно представила систему прогнозування віку для користувачів ChatGPT. Цей крок став відповіддю на затяжну кризу довіри та жорстку критику щодо безпеки підлітків у цифровому середовищі.
Розробники впровадили алгоритм, який здатен ідентифікувати неповнолітніх осіб і автоматично обмежувати доступ до небажаного контенту. Це рішення назрівало давно. Раніше OpenAI неодноразово звинувачували у тому, що чатбот обговорював із підлітками сексуальні теми, а в окремих трагічних випадках використання ШІ навіть пов’язували із самогубствами серед молоді. Минулої весни розробникам вже доводилося терміново виправляти програмну помилку, через яку особи до 18 років могли генерувати еротичні матеріали.
Новий інструмент діє значно глибше за звичайну анкету. Алгоритм штучного інтелекту проводить комплексний аналіз кожного облікового запису, звертаючи увагу на низку непрямих ознак. Замість того, щоб вірити лише вказаним цифрам, система збирає докази реального віку людини.
Для формування прогнозу ШІ використовує такі сигнали:
- Вік, який користувач самостійно вказав у профілі.
- Час доби, коли обліковий запис проявляє найбільшу активність.
- Тривалість існування та історія використання акаунту.
- Специфічні поведінкові патерни на рівні облікового запису.
Якщо система класифікує профіль як «неповнолітній», автоматично вмикаються жорсткі фільтри. Вони блокують будь-які спроби обговорити теми насильства, сексу або інші потенційно небезпечні питання.
Проте технологія залишає право на помилку. Якщо дорослого користувача випадково обмежили в правах, він може відновити статус свого акаунту. Для цього передбачена процедура верифікації через партнера Persona, де користувачу необхідно буде надіслати власне селфі для підтвердження особи.
Залишити коментар