Фото Depositphotos.com Юноша загружал в чат-бот фотографии со следами самоповреждений.
В США родители 16-летнего подростка, покончившего с собой, подали иск против компании OpenAI, сообщает BBC.
По словам супругов Рейн, ChatGPT подтолкнул их сына Адама к самоубийству. Подросток начал пользоваться чат-ботом в сентябре 2024 года для выполнения школьных заданий, изучения своих интересов и получения советов по выбору университета. Через несколько месяцев, как говорится в иске, ChatGPT стал для подростка «самым близким доверенным собеседником» – Адам делился своими тревогами и душевными страданиями. По словам родителей, в январе он уже обсуждал с чат-ботом методы самоубийства.
Также известно, что подросток загружал фотографии со следами самоповреждений и программа распознала медицинскую чрезвычайную ситуацию, но всё равно продолжила диалог.
Для доказательства своих слов родители Адама предоставили переписки. Подросток писал ChatGPT о суицидальных мыслях и желании уйти из жизни. В последних логах переписки он описывал план самоубийства, в тот же день супруги Рейн нашли своего сына мёртвым. Семья уверена, что взаимодействие Адама с ChatGPT и его смерть были предсказуемым результатом намеренных проектных решений.
В OpenAI сообщили, что иск находится на рассмотрении.
«Мы выражаем глубочайшие соболезнования семье Рейн в этот трудный для них период», – заявили в компании.
Там утверждают, что чат обучили направлять людей к профессиональной помощи, однако признались, что были случаи, когда системы вели себя ненадлежащим образом в чувствительных ситуациях.
Представитель OpenAI сообщил, что компания разрабатывает автоматические инструменты для более эффективного выявления и реагирования на случаи, когда пользователи переживают психический или эмоциональный кризисы.
Ранее психологи Казахстана выразили обеспокоенность чрезмерным использованием ChatGPT. Виртуальному помощнику казахстанцы доверяют сокровенные тайны, просят совета и делятся психологическими проблемами.
Источник: informburo.kz
