OpenAI запускає батьківський контроль у ChatGPT: що зміниться для дітей

Компанія OpenAI анонсувала запуск батьківських налаштувань у ChatGPT протягом наступного місяця.

Про це повідомляє РБК-Україна з посиланням на технологічне видання Engadget.

Що відомо

Згідно з планом, батьки зможуть прив'язати свої облікові записи до акаунтів дітей-підлітків і керувати функціоналом чат-бота. Зокрема, з'явиться можливість обмежувати використання пам'яті та історії листування, а також налаштовувати, яким чином ChatGPT відповідатиме підліткам.

Крім того, система автоматично надсилатиме сповіщення, якщо визначить, що дитина перебуває у стані "гострої емоційної кризи". За словами OpenAI, цю функцію розробляють за участю фахівців, щоб зміцнити довіру між батьками і підлітками.

Оголошення про нові налаштування з'явилося після того, як компанія зіткнулася з першим в історії позовом про неправомірну смерть, пов'язаним із використанням штучного інтелекту.

Минулого тижня до суду звернулися Метт і Марія Рейн - батьки підлітка, який наклав на себе руки. У позові стверджується, що ChatGPT був обізнаний про чотири попередні спроби самогубства їхнього сина Адама і допоміг йому спланувати смертельний результат.

Батьки заявили, що ШІ надав підлітку конкретні інструкції щодо методів самогубства і навіть підказав, як приховати сліди на шиї після попередніх невдалих спроб.

В OpenAI підкреслили, що впровадження батьківських налаштувань є частиною ширшої програми з підвищення безпеки ChatGPT. Компанія також має намір залучити експертів у сфері розладів харчової поведінки, залежності та підліткового здоров'я для додаткового налаштування моделей.

Крім того, OpenAI працює над новим режимом роботи в реальному часі, який буде направляти чутливі діалоги через так звані "моделі міркування".

Як пояснили в компанії, така технологія підвищує стійкість чат-бота до провокаційних запитів і покращує дотримання правил безпеки.

У майбутньому користувачі зможуть очікувати появи ще більшої кількості інструментів захисту. "Ця робота вже ведеться, але ми хочемо заздалегідь показати плани на найближчі 120 днів. Ми зосереджені на тому, щоб впровадити якомога більше поліпшень уже цього року", - заявили в OpenAI.

Вас може зацікавити:

8 причин, чому ChatGPT уже обігнав Google у пошуку та рекомендаціях
OpenAI представила GPT-5 з просунутими функціями
Apple розробляє власного АІ-бота, який зможе змагатися з ChatGPT