Президент США Дональд Трамп подписал три указа, посвященных искусственному интеллекту. Они включают различные практики и стратегии для создания более инклюзивной среды развития технологии.
Первый документ PREVENTING WOKE AI IN THE FEDERAL GOVERNMENT утверждает, что федеральное правительство обязано отказаться от применения ИИ-моделей, которые «жертвуют правдивостью и точностью ради идеологический целей».
«LLM должны быть нейтральными, беспристрастными инструментами, не искажающими ответы в пользу идеологических догм, таких как DEI», — говорится в тексте.
Разработчикам запрещено намеренно интегрировать идеологические оценки в ответы искусственного интеллекта, если это не предусмотрено запросом пользователя.
«Раз и навсегда, мы избавляемся от “woke”. Я подпишу указ, запрещающий федеральному правительству закупать ИИ-технологии, в которые внедрены партийные или идеологические установки вроде критичесой расовой теории — это абсурд. С этого момента правительство США будет использовать только такой ИИ, который стремится к истине, справедливости и строгой беспристрастности», — заявил Трамп.
Отмечается, что ИИ все активнее применяется в повседневной жизни американцев и играет важную роль в получении знаний и информации. На этом фоне особую значимость приобретает достоверность выводов, которые он формирует.
Среди других инициатив:
указ, направленный на стимулирование инноваций и развития технологий путем отмены так называемых «обременительных федеральных норм, мешающих разработке и внедрению ИИ»;
третий документ — направлен на создание и реализацию «Американской программы экспорта искусственного интеллекта» для поддержки разработки и внедрения американского технологического стека ИИ за рубежом.
Что беспристрастно и объективно?
Старший преподаватель прикладной лингвистики в Open University Филип Сирджент обратил внимание, что ничего не может быть по-настоящему объективным.
«Один из фундаментальных принципов социолингвистики состоит в том, что язык никогда не бывает нейтральным. Так что идея о достижении чистой объективности — фантазия», — сказал он.
Идеология администрации Трампа не всегда отражает убеждения и ценности всех американцев. Президент неоднократно пытался сократить финансирование климатических инициатив, образования, общественного вещания, научных исследований, социальных программ, поддержки сельских сообществ и гендерно-утверждающего ухода, часто представляя эти инициативы как примеры «woke».
«Все, что [администрации Трампа] не нравится, немедленно отправляется в уничижительную категорию “woke”», — заявила специалист по данным, глава некоммерческой организации Humane Intelligence и бывший спецпосланник США по ИИ Румман Чоудхури.
Под «стремлением к истине» понимается, что LLM‑модели «приоритезируют историческую точность, научный поиск и объективность», а под «идеологической нейтральностью» — что модели являются «нейтральными, беспартийными инструментами, не искажающими ответы в пользу идеологических догм, таких как DEI».
Илон Маск позиционирует Grok как альтернативу «woke»-подходу — менее предвзятую и ориентированную на поиск истины. Системные промпты модели рекомендуют избегать ссылок на мейнстримные СМИ и официальные источники, искать противоположные точки зрения, в том числе политически некорректные, а также учитывать позицию самого предпринимателя по спорным вопросам.
В последнее время Grok попадал в скандалы из-за антисемитских и других провокационных высказываний.
«Очевидно, указ направлен на дискриминацию по взглядам, учитывая, что [правительство] только что подписало контракт с Grok, также известным как “MechaHitler”», — обратил внимание профессор права в Стэнфордском университете Марк Лемли.
https://forklog.com/news/ai/minoborony-ssha-vydelilo-200-mln-amerikanskim-ii-startapam
Вместе с финансированием от Минобороны xAI также сообщила, что «Grok for Government» был добавлен в список Управления общих служб. Это означает, что продукты xAI теперь доступны для покупки всеми федеральными учреждениями и агентствами.
«Правильный вопрос такой: запретят ли они Grok — ИИ, с которым только что подписали крупный контракт, — за то, что он был сознательно разработан для выдачи политически окрашенных ответов? Если нет, то это явно попытка подавления определенной точки зрения», — отметил Лемли.
Главное опасение Чоудхури связано с тем, что из-за указа компании могут намеренно изменять тренировочные датасеты, чтобы соответствовать политике администрации. Она напомнила о заявлениях Маска за несколько недель до запуска Grok 4, где он утверждал, что xAI «перепишет весь корпус человеческих знаний, добавляя недостающую информацию и устраняя ошибки».
Эксперты отметили, что единой объективной истины не существует. Достичь полностью беспристрастных или нейтральных результатов невозможно, особенно в современном мире, где даже факты становятся предметом политических споров.
«Если ИИ выдает результат, что климатическая наука верна — это считается левым уклоном? Некоторые говорят, что нужно представлять обе стороны аргумента, чтобы быть объективным, даже если у одной из сторон нет никакой научной ценности», — задает вопрос Сирджент.
План для победы в гонке ИИ
Меры являются частью инициативы администрации «Победа в гонке ИИ: План действий США по ИИ» (Winning the AI Race: America’s AI Action Plan). Он включает 90 федеральных политик, разделенных на три направления: ускорение инноваций, создание инфраструктуры и лидерство в международной дипломатии и сфере безопасности.
«Америка в настоящее время является мировым лидером по строительству дата-центров, производительности аппаратного обеспечения и созданию ИИ-моделей. Крайне важно, чтобы США использовали это преимущество для формирования устойчивого глобального альянса, не позволяя нашим противникам пользоваться нашими инновациями и инвестициями», — говорится в документе.
В нем упоминается необходимость ужесточения контроля за экспортом ИИ-чипов через «креативные подходы» и приводятся два политических предложения:
призыв к государственным организациям работать с ИИ-индустрией над функциями верификации местоположения чипов;
рекомендация создать механизм контроля соблюдения будущих экспортных ограничений.
План составлен командой администрации по технологиям и ИИ, в которую входят представители Кремниевой долины, в том числе директор Управления по науке и технологиям Майкл Крациос, куратор по ИИ и криптовалюте Дэвид Сакс и помощник президента по нацбезопасности Марко Рубио. Более 10 000 заинтересованных сторон направили свои комментарии, которые были учтены при составлении документа.
Основные направления плана:
масштабное развитие ИИ-инфраструктуры: строительство дата-центров, заводов по производству чипов и источников энергии, использование федеральных земель, обход экологических ограничений;
дерегулирование: ограничение регулирования ИИ на уровне штатов, привязка федерального финансирования к отказу от регуляций, опросы бизнеса и общества о препятствующих нормах;
защита свободы слова и борьба с «предвзятым ИИ»: исключение DEI, дезинформации и климата из госоценок рисков, требование объективности от моделей при госзакупках;
поддержка открытых моделей: расширение доступа к вычислительным мощностям для стартапов и исследователей, партнерство с крупными разработчиками, поддержка проектов вроде Meta, Hugging Face и AI2;
безопасность ИИ: исследования интерпретируемости, систем контроля и устойчивости к атакам, хакатоны в Минобороны и Минэнерго для выявления уязвимостей, оценка рисков применения технологии в кибератаках и создании оружия, сотрудничество разработчиков с госорганами для оценки угроз;
ограничения в отношении Китая: выявление ИИ-моделей, отражающих партийную цензуру, сбор разведданных о разработках во «враждебных» странах, противодействие попаданию чипов и других продуктов из КНР в США;
национальная безопасность: интеграция искусственного интеллекта в оборонные и разведывательные структуры США, строительство дата-центров для Минобороны, подготовка кадров, автоматизация процессов, приоритетный доступ к вычислительным мощностям в кризис.
Напомним, в июле администрация Трампа изменила позицию касательно импорта ИИ-чипов в Китай. Она разрешила Nvidia продавать процессоры, поскольку компания «не передает лучшие технологии».
Полную версию статьи можно прочитать на сайте источника:
Читать »
