Мир стоит на пороге технологической революции, но правила безопасности для искусственного интеллекта (ИИ) остаются пугающе архаичными. Президент Microsoft Брэд Смит в интервью BBC выступил с резкой критикой текущего регулирования, сравнив его с абсурдно низкими стандартами. По его мнению, обычная упаковка молока или стиральная машина сегодня подлежат более строгому контролю, чем передовые алгоритмы, способные принимать решения за человека.
Смит подчеркнул опасный дисбаланс: пока производители бытовой техники обязаны соответствовать десяткам норм безопасности, разработчики ИИ часто действуют в «серой зоне». Это создает риски, которые могут проявиться неожиданно и в глобальном масштабе. Он призвал срочно разработать и внедрить международные правила, которые заставят компании нести ответственность за действия своих цифровых «детей».
Ключевые предложения президента Microsoft включают несколько жестких мер. Во-первых, обязательное уведомление общественности о любых опасных инцидентах, связанных с ИИ. Во-вторых, механизм оповещения пострадавших сторон, чтобы люди знали, что решение, ущемившее их права, было принято алгоритмом, а не человеком. В-третьих, наличие так называемой «аварийной кнопки» — средства для экстренной остановки ИИ-агентов, вышедших из-под контроля.
По мнению Смита, без таких мер человечество рискует столкнуться с непредсказуемыми последствиями. Он сравнил ситуацию с регулированием авиации или фармацевтики, где безопасность является приоритетом. Однако в случае с ИИ скорость развития технологий опережает способность законодателей реагировать. Microsoft, являясь одним из лидеров рынка, призывает к проактивной позиции, чтобы избежать катастрофических сценариев.
Эксперты отмечают, что предложения Смита могут стать основой для будущих международных соглашений. Однако вопрос о том, кто будет следить за исполнением этих правил и как избежать фрагментации регулирования в разных странах, остается открытым. Пока же мир продолжает использовать мощный инструмент, не имея даже базовой «инструкции по технике безопасности».