Иллюзия независимости: почему соглашение бигтеха с Белым домом не защитит от рисков ИИ
Шесть крупнейших разработчиков искусственного интеллекта подписали соглашение с Белым домом о допуске независимых аудиторов к оценке флагманских моделей. Однако документ не устанавливает критерии выбора проверяющих, рамки проверок и правила публикации отчетов. В нынешнем виде компании сохраняют абсолютный контроль над тем, какие данные предоставлять внешним оценщикам.
В инициативе приняли участие Nvidia, OpenAI, Anthropic, Google, Meta и xAI. Корпорации обязались привлекать внешние экспертные организации и направлять аудиторские отчеты независимым членам советов директоров. Главная проблема договоренностей заключается в отсутствии юридических санкций за их неисполнение и регламента проверок.
Ловушка конфликта интересов и закрытые архитектуры
Финансовая история знает примеры, когда саморегулирование приводило к катастрофам. В 2000 году аудиторская компания Arthur Andersen получила от энергетической корпорации Enron $25 млн за проверку отчетности и еще $27 млн за консалтинговые услуги. Спустя два года обе структуры обанкротились из-за масштабных фальсификаций. Провал объяснялся отсутствием стимулов для жесткого контроля щедрого заказчика. Американский Конгресс отреагировал на кризис законом Сарбейнса-Оксли, запретившим совмещение консалтинга с аудитом и создавшим внешний надзорный орган.
В технологическом секторе добровольные обязательства показывают низкую эффективность. Из 16 компаний, согласившихся в 2023 году тестировать системы безопасности, средний уровень выполнения требований составил 53%, а половина разработчиков полностью проигнорировала содействие внешним исследователям. Показательным стал аудит модели o3 от OpenAI, проведенный некоммерческой группой METR: экспертам выделили всего три недели, ограничив обзор внутренних цепочек рассуждений алгоритма.
Обучение современных нейросетей требует свыше $100 млн, а их веса представляют собой конфиденциальный массив данных. Прямая передача файлов третьим сторонам несет угрозу утечки интеллектуальной собственности. До недавнего времени индустрия находилась в тупике: разработчики либо требовали заранее предоставить экзаменационные вопросы, либо рисковали кодом. В августе лаборатория Google DeepMind протестировала слепой метод проверки в защищенной аппаратной среде совместно с Институтом безопасности Сингапура. Это доказало возможность аудита без физической передачи весов модели.
Децентрализация надзора как необходимое условие
Аналитический отчет организации Decentralization Research Center описывает почти тридцать альтернативных методов контроля алгоритмов. Криптографические протоколы и изолированные вычисления позволяют инспектировать логику без раскрытия весов. Без жестких внешних правил закрытые лаборатории продолжат имитировать прозрачность, скрывая критические уязвимости за закрытыми дверями.
Для реального контроля необходимо лишить менеджмент права единолично определять состав проверочной группы и спектр тестов. Публичные отчеты с именами аккредитованных аудиторов десятилетиями работают на традиционном рынке капитала, не нарушая коммерческую тайну.
Влияние на рынок и перспективы
Реализация соглашения в текущей мягкой форме не создаст барьеров для дальнейшего развертывания масштабных вычислений и не замедлит инвестиционный цикл в сегменте децентрализованного ИИ. Технологические гиганты сохранят статус-кво до тех пор, пока регуляторы не сформируют единый надзорный орган по аналогии с бухгалтерским контролем. До введения обязательных стандартов двойного слепого тестирования доверие институционального капитала к корпоративным отчетам о безопасности останется минимальным.
Актуальные новости и ончейн-аналитика доступны в нашем Telegram-канале, сообществе ВКонтакте и на портале Cryptovibes.
