Первый известный случай. Китай сделал ИИ для военных на базе открытых моделей Meta

Ведущие китайские исследовательские учреждения использовали общедоступную модель Llama от Meta для разработки инструментов с искусственным интеллектом для потенциального использования военными.

В одной из научных статей шесть китайских исследователей из трех учреждений, в том числе двух подчиненных Академии военных наук, ведущему исследовательскому органу Народно-освободительной армии Китая (НОАК) подробно описали, как они использовали раннюю версию Llama от Meta в качестве базы для создания инструмента ChatBIT. Как пишет Reuters, этот чат-бот был настроен и оптимизирован для диалога и ответов на вопросы в военной сфере.

«В будущем благодаря технологическому совершенствованию ChatBIT будет применяться не только для анализа разведывательных данных, также … будет исследовано стратегическое планирование, обучение симуляции и принятие командных решений», — говорится в статье.

Эксперты говорят, что это первые подтверждения таких злоупотреблений Китая.

«Это первый случай, когда есть веские доказательства того, что военные эксперты НОАК в Китае систематически исследовали и пытались использовать мощность LLM с открытым кодом, особенно Meta, для военных целей», — сказал Санни Ченг, научный сотрудник Jamestown Foundation.

В отдельной научной статье, рассмотренной журналистами, два исследователя Корпорации авиационной промышленности Китая, которую Соединенные Штаты признали имеющей связи с НОАК, описали использование Llama 2 для «обучения стратегий радиоэлектронной борьбы в воздухе».

Meta сделала многие свои модели ИИ открытыми, но при этом наложила ряд ограничений на использование. Сервисы с более чем 700 миллионами пользователей должны получить лицензии от компании. Также условия запрещают использовать модели для военных, ядерных отраслей, шпионажа и другой деятельности, которая подпадает под экспортный контроль США, для разработки оружия и контента, предназначенного для подстрекательства и содействия насилию. Однако, поскольку модели Meta являются публичными, компания не может обеспечить выполнение этих требований.

В Meta, комментируя использование ее моделей китайскими военными, заявили, что принимают меры для предотвращения злоупотреблений.

«Любое использование наших моделей Народно-освободительной армией является несанкционированным и противоречит нашей политике приемлемого использования», — сказала Молли Монтгомери, директор по общественной политике Meta.