Правительства внедряют AI быстрее, чем обеспечивают безопасность

Отчёты федеральных аудиторов и watchdog-организаций рисуют тревожную картину: правительственные агентства США ускоряют внедрение AI-систем, но меры безопасности не поспевают за темпом развёртывания. Повторяются ошибки прошлых масштабных IT-проектов, где скорость запуска ставилась выше защищённости — с предсказуемыми последствиями.

Что идёт не так

AI-системы внедряются в здравоохранение (анализ медицинских данных), социальные службы (автоматизация рассмотрения заявок), правоохранение (предиктивная аналитика) и оборону (разведка и планирование). Каждая из этих сфер критически чувствительна к ошибкам, предвзятости и утечкам данных. Но аудиты фиксируют: системы запускаются без полного тестирования безопасности, без плана реагирования на инциденты и без чёткой ответственности за решения, принятые AI.

Почему это важно

Когда AI-система в банке ошибается, клиент теряет деньги (и может их вернуть через суд). Когда AI-система в правительстве ошибается, человек может потерять пособие, свободу или жизнь — и обжаловать решение значительно сложнее. Ставки выше, а стандарты безопасности — ниже, чем в частном секторе.

NIST уже запустил инициативу по стандартам безопасности для AI-агентов, но добровольные фреймворки недостаточны для государственных систем, где последствия ошибок — не финансовые, а социальные. Эксперты призывают к обязательным аудитам AI-систем в государственных учреждениях до развёртывания, а не после первого инцидента.