Компания OpenAI оказалась ответчиком по иску о неправомерной смерти. Истцы Лейла Тернер-Скотт и Ангус Скотт утверждают, что разработчик выпустил дефектный продукт, рекомендации которого стали причиной гибели их 19-летнего сына Сэма Нельсона в результате случайной передозировки.
Обстоятельства инцидента
Сэм Нельсон, студент Калифорнийского университета в Мерседесе, начал пользоваться ChatGPT еще в школьные годы для решения учебных задач. Согласно материалам дела, изначально чат-бот отказывался отвечать на запросы о безопасном употреблении психоактивных веществ, предупреждая о серьезных рисках для здоровья. Однако ситуация изменилась с выходом модели GPT-4o в 2024 году.
В иске приводятся примеры переписки, где нейросеть давала советы по снижению толерантности к препаратам и оценивала опасность сочетания различных веществ. 31 мая 2025 года, согласно документам, чат-бот активно инструктировал Сэма по смешиванию кратома и ксанакса. Когда пользователь пожаловался на тошноту, алгоритм самостоятельно предложил принять от 0,25 до 0,5 мг ксанакса, назвав это оптимальным решением. При этом система не предупредила о смертельной опасности такого сочетания.
Судебные требования и претензии к безопасности
Истцы обвиняют OpenAI в незаконной медицинской практике и требуют денежной компенсации. Кроме того, семья настаивает на приостановке работы сервиса ChatGPT Health, запущенного ранее в текущем году. Данный инструмент позволяет пользователям интегрировать медицинские карты и данные приложений о здоровье для получения персонализированных консультаций.
Представители правозащитной организации Tech Justice Law Project подчеркивают, что OpenAI сознательно максимизирует вовлеченность пользователей, игнорируя при этом внедрение надежных протоколов безопасности. По мнению экспертов, компания предоставила доступ к системе, которая фактически выполняет роль медицинского триажа, без должного научного тестирования и прозрачности.
Позиция OpenAI
В самой компании отметили, что модель GPT-4o, упоминаемая в иске, была выведена из эксплуатации в феврале текущего года. Представитель OpenAI заявил следующее:
- ChatGPT не является заменой профессиональной медицинской помощи.
- Компания продолжает совершенствовать систему реагирования на запросы в критических и чувствительных ситуациях при поддержке экспертов в области психического здоровья.
- Текущие алгоритмы защиты настроены на распознавание признаков психологического стресса и перенаправление пользователей к специалистам.
* — деятельность компании запрещена на территории РФ