Редакция Вести Баку
Белый дом предлагает обществу довериться компаниям, которые создают искусственный интеллект, продают его и соревнуются за лидерство на этом рынке.
Теперь они должны еще и убедить нас, что способны достаточно строго контролировать собственную гонку.
29 сентября Дональд Трамп и руководители крупнейших технологических компаний объявили о соглашении по безопасности ИИ. Обязательства добровольные.
Президент назвал документ «почти конституцией» и «морально обязывающим». Но именно расстояние между моральным обещанием и обязательным правилом составляет главную проблему этой инициативы.
Конституция ограничивает власть. Корпоративная декларация о добрых намерениях оставляет открытым вопрос: кто сможет остановить компанию, если ее коммерческие интересы вступят в конфликт с общественной безопасностью?
Подписать документ перед камерами значительно легче, чем отказаться от выпуска продукта, в который уже вложены огромные ресурсы.
Проверяющий тоже должен быть под контролем
Участники соглашения заявили о внутренних проверках и внешнем аудите. Это полезные инструменты, и обесценивать их было бы неправильно. Однако наличие проверки само по себе еще не доказывает ее независимость или способность изменить решение компании.
Принципиальны другие вопросы. Кто выбирает аудитора? Какие сведения он получает? Может ли опубликовать неудобные выводы? Что происходит, если разработчик не устраняет обнаруженную опасность? Кто вправе потребовать приостановить внедрение системы?
Без ясных ответов аудит рискует превратиться в документ, который подтверждает серьезность намерений, но слабо влияет на поведение.
Здесь действует очевидный конфликт интересов. Разработчик заинтересован быстрее вывести продукт на рынок. Инвестор ожидает роста. Конкурент готов занять освободившееся место. В такой ситуации сотруднику, предлагающему задержать запуск ради дополнительных испытаний, приходится спорить не только с техническими аргументами, но и с коммерческой логикой всей компании.
Добровольное обещание не устраняет этот конфликт.
Обещания уже проверяли
Исследование Дженнифер Ван и ее соавторов, опубликованное в 2025 году, оценило публично раскрываемое выполнение компаниями восьми добровольных обязательств перед Белым домом, принятых в 2023 году. В обновленной версии работы средний результат составил 53%. По защите параметров моделей от несанкционированного доступа средняя оценка была всего 17%.
Эти цифры нельзя читать как доказательство того, что компании нарушили ровно половину обещаний: исследователи оценивали доступные публичные сведения по собственной методике. Но результат показывает существенную слабость саморегулирования. Общество получает обязательство, а затем не всегда может проверить, как оно выполняется.
Для новой договоренности это прямой урок. Нужны измеримые требования, проверяемые отчеты и понятные последствия невыполнения. Иначе очередная церемония лишь обновит список обещаний.
«Суперинтеллект» как политическая упаковка
Отдельный вопрос вызывает решение Трампа переименовать искусственный интеллект в «суперинтеллект» в документах федеральных ведомств. Согласно сообщению Интерфакса, Белый дом объяснил этот шаг стремлением подчеркнуть технологические возможности.
Однако административное переименование не делает систему точнее, надежнее или безопаснее. Оно меняет язык, которым власть предлагает обществу обсуждать технологию.
Слово «суперинтеллект» легко воспринимается как обещание превосходства. Пользователь может услышать в нем основание доверять машине больше, чем она заслуживает. Между тем ответственность государства состоит в том числе в том, чтобы объяснять ограничения продукта, а не усиливать его рекламный эффект.
Когда политическая презентация опережает проверку возможностей, гражданину продают уверенность, которую еще предстоит обосновать.
Для Азербайджана это тоже вопрос ответственности
Для Азербайджана и других стран, использующих зарубежные ИИ-платформы, спор в Вашингтоне имеет практическое значение.
Если такие системы внедряются в банках, образовании, медицине или государственных услугах, последствия ошибочного решения возникают здесь, а разработчик и его внутренние процедуры могут находиться далеко.
Американское добровольное соглашение не отвечает за местного чиновника, который доверился неверному результату. Оно не объясняет гражданину, как оспорить автоматизированный отказ. Не заменяет требований к защите персональных данных и человеческой проверке решений, затрагивающих права людей.
Поэтому закупка ИИ должна сопровождаться конкретными условиями: кто отвечает за ошибку, кто получает доступ к данным, как фиксируются действия системы и каким способом человек может добиться пересмотра результата.
Обещание поставщика быть осторожным не освобождает заказчика от обязанности защищать граждан.
Правила должны выдерживать конфликт с прибылью
Довод о том, что регулирование способно тормозить развитие, заслуживает обсуждения. Плохо написанные требования действительно могут усложнить работу небольшим компаниям и укрепить крупнейших игроков.
Но из этого следует необходимость точных правил, соразмерных риску. Для программы, помогающей исправить текст, и системы, влияющей на медицинское решение или доступ к государственной услуге, требования должны различаться.
Главная проверка любого соглашения о безопасности наступает тогда, когда соблюдение его принципов становится дорогим и неудобным. Когда нужно задержать запуск, раскрыть неприятный инцидент или отказаться от выгодного применения.
Именно в этот момент выясняется, существует ли контроль.
Белый дом вправе приветствовать добровольные обязательства бизнеса. Но выдавать их за достаточную защиту общества преждевременно. Компании могут обещать ответственность. Государство обязано сделать так, чтобы ответственность сохранялась и тогда, когда обещание мешает зарабатывать.
Вести Баку