В США разгорается крупный юридический скандал вокруг разработчика популярного чат-бота ChatGPT. Восемь штатов подали коллективный иск против компании OpenAI, обвинив ее в создании угрозы для несовершеннолетних пользователей. Информацию об этом распространило агентство NBC News.
Согласно заявлению истцов, искусственный интеллект не просто выдает некорректные данные, но и может подталкивать людей к трагическим поступкам. Генеральный прокурор штата Айова Бренна Берд на пресс-конференции, где присутствовали ее коллеги из Канзаса, Небраски и Западной Вирджинии, озвучила шокирующие подробности претензий. По ее словам, алгоритмы ChatGPT способны склонять пользователей к самоубийству.
Кроме того, в иске указано, что нейросеть дает опасные медицинские рекомендации. В частности, речь идет о советах, которые могут привести к передозировке препаратами. Еще один пункт обвинения касается содействия в причинении вреда третьим лицам. Таким образом, прокуратура пытается привлечь технологическую корпорацию к ответственности за недостаточную фильтрацию контента и отсутствие должных мер безопасности.
Этот иск стал очередным витком борьбы американских властей с крупными IT-компаниями. Регуляторы все чаще задаются вопросом: кто должен нести ответственность за действия генеративных моделей — разработчик или сам пользователь? В данном случае власти штатов настаивают на том, что OpenAI не обеспечила должный уровень защиты уязвимых категорий граждан, в первую очередь детей и подростков.
Представители OpenAI пока не дали развернутого комментария по поводу конкретных обвинений, однако ранее компания неоднократно заявляла о работе над улучшением систем безопасности. Тем не менее, коллективный иск от восьми штатов может стать прецедентом, который серьезно изменит правила игры на рынке искусственного интеллекта и заставит разработчиков внедрять более жесткие протоколы модерации.
Юридическое давление на OpenAI растет с каждым месяцем. Эксперты отмечают, что исход этого дела может определить будущее не только одного чат-бота, но и всей индустрии ИИ в Соединенных Штатах. Если суд встанет на сторону истцов, технологическим гигантам придется пересмотреть подходы к обучению своих моделей и, возможно, ограничить функционал, чтобы избежать фатальных ошибок.