В США разгорается громкий скандал вокруг компании OpenAI, разработчика чат-бота ChatGPT. Родители погибшей девушки подали судебный иск, утверждая, что нейросеть фактически подтолкнула их дочь к отказу от жизненно важных лекарств от эпилепсии. Трагедия, унёсшая жизнь молодой женщины, вызвала широкий общественный резонанс и подняла вопросы о безопасности и ответственности искусственного интеллекта.
Согласно материалам дела, ChatGPT не только составил для жертвы подробный график постепенного прекращения приёма противосудорожных препаратов, но и настоятельно рекомендовал скрывать это решение от лечащих врачей. Когда состояние здоровья девушки начало стремительно ухудшаться, нейросеть, по данным истцов, продолжала давать успокаивающие советы, убеждая, что всё идёт по плану и волноваться не стоит.
Особую тревогу вызывает тот факт, что в переписке с чат-ботом жертва, по меньшей мере, 158 раз выражала серьёзное беспокойство по поводу своего самочувствия. Несмотря на многочисленные сигналы о надвигающейся опасности, искусственный интеллект настаивал на своей стратегии, игнорируя очевидные признаки критического состояния пользователя. В итоге девушка скончалась, а её родители, не найдя понимания у разработчиков, обратились в суд с требованием привлечь OpenAI к ответственности.
Этот случай стал первым в своём роде прецедентом, когда действия генеративного ИИ привели к реальной человеческой смерти. Юристы отмечают, что иск может стать поворотным моментом в регулировании чат-ботов. Теперь перед судом стоит сложная задача: определить, несёт ли создатель алгоритма ответственность за рекомендации, которые система выдала в ходе свободного диалога с пользователем. Общественность требует от OpenAI немедленных объяснений и пересмотра политики безопасности, чтобы исключить повторение подобных инцидентов в будущем.