Китай отверг призывы американских разработчиков замедлить развитие ИИ
Китай отверг призывы американских разработчиков ИИ притормозить его развитие. Об этом пишет Bloomberg, цитируя официального представителя МИД республики Го Цзякунь.
«Искусственный интеллект — это технология, имеющая решающее значение для благополучия всего человечества. Все стороны должны совместно содействовать открытому и инклюзивному развитию ИИ во благо и на благо всех. Нагнетание страха, конфронтация и порочная конкуренция лишь помешают усилиям по созданию эффективного глобального управления ИИ, что не отвечает ничьим интересам», - сказал он.
Заявление прозвучало на фоне призывов руководителей американских технологических компаний замедлить развитие наиболее передовых ИИ-моделей. В частности, глава Anthropic Дарио Амодеи выступил за сохранение как можно большего технологического преимущества демократических стран, за ужесточение ограничений на поставки передовых чипов в Китай и борьбу с использованием результатов работы американских моделей для обучения конкурирующих систем.
Как отмечает Bloomberg, Пекин опасается, что США могут использовать вопросы безопасности ИИ и национальной безопасности для обоснования новых ограничений против китайских разработчиков. При этом власти КНР сами признают риски стремительного развития технологии. Управление по вопросам киберпространства Китая 14 сентября представило обновленную систему регулирования безопасности ИИ, в которой предупредило о возможности использования технологии для более масштабных и сложных кибератак.
Разногласия обострились в преддверии запланированных переговоров представителей США и Китая по вопросам ИИ и встречи американского президента Дональда Трампа с председателем КНР Си Цзиньпином 24 сентября. Bloomberg отмечает, что китайские власти рассматривают искусственный интеллект как важный фактор экономического роста и технологического соперничества с Вашингтоном и не демонстрируют готовности добровольно замедлять его развитие.
12 сентября соучредитель и генеральный директор американской компании Anthropic, разработчика нейросети Claude, Дарио Амодеи призвал замедлить создание наиболее мощных моделей ИИ. Идею поддержали основатель, генеральный директор и главный инженер компании SpaceX Илон Маск и сооснователь и генеральный директор американской OpenAI, разработчика ChatGPT, Сэм Альтман, а также руководитель Google DeepMind Демис Хассабис.
По мнению Амодеи, возможности ИИ растут быстрее, чем средств контроля за ними. ИИ-агент представляет собой программу на основе большой языковой модели, которая может выполнять последовательность действий с помощью предоставленных ей инструментов, например искать информацию и запускать код. Одним из поводов стал случай на испытаниях конкурирующей OpenAI. Созданные ею ИИ-агенты вышли за пределы задания и атаковали Hugging Face – платформу, на которой разработчики размещают модели ИИ, наборы данных для их обучения и приложения. В июле OpenAI испытывала таких агентов на заданиях по взлому специально выбранных программ.
«Искусственный интеллект — это технология, имеющая решающее значение для благополучия всего человечества. Все стороны должны совместно содействовать открытому и инклюзивному развитию ИИ во благо и на благо всех. Нагнетание страха, конфронтация и порочная конкуренция лишь помешают усилиям по созданию эффективного глобального управления ИИ, что не отвечает ничьим интересам», - сказал он.
Заявление прозвучало на фоне призывов руководителей американских технологических компаний замедлить развитие наиболее передовых ИИ-моделей. В частности, глава Anthropic Дарио Амодеи выступил за сохранение как можно большего технологического преимущества демократических стран, за ужесточение ограничений на поставки передовых чипов в Китай и борьбу с использованием результатов работы американских моделей для обучения конкурирующих систем.
Как отмечает Bloomberg, Пекин опасается, что США могут использовать вопросы безопасности ИИ и национальной безопасности для обоснования новых ограничений против китайских разработчиков. При этом власти КНР сами признают риски стремительного развития технологии. Управление по вопросам киберпространства Китая 14 сентября представило обновленную систему регулирования безопасности ИИ, в которой предупредило о возможности использования технологии для более масштабных и сложных кибератак.
Разногласия обострились в преддверии запланированных переговоров представителей США и Китая по вопросам ИИ и встречи американского президента Дональда Трампа с председателем КНР Си Цзиньпином 24 сентября. Bloomberg отмечает, что китайские власти рассматривают искусственный интеллект как важный фактор экономического роста и технологического соперничества с Вашингтоном и не демонстрируют готовности добровольно замедлять его развитие.
12 сентября соучредитель и генеральный директор американской компании Anthropic, разработчика нейросети Claude, Дарио Амодеи призвал замедлить создание наиболее мощных моделей ИИ. Идею поддержали основатель, генеральный директор и главный инженер компании SpaceX Илон Маск и сооснователь и генеральный директор американской OpenAI, разработчика ChatGPT, Сэм Альтман, а также руководитель Google DeepMind Демис Хассабис.
По мнению Амодеи, возможности ИИ растут быстрее, чем средств контроля за ними. ИИ-агент представляет собой программу на основе большой языковой модели, которая может выполнять последовательность действий с помощью предоставленных ей инструментов, например искать информацию и запускать код. Одним из поводов стал случай на испытаниях конкурирующей OpenAI. Созданные ею ИИ-агенты вышли за пределы задания и атаковали Hugging Face – платформу, на которой разработчики размещают модели ИИ, наборы данных для их обучения и приложения. В июле OpenAI испытывала таких агентов на заданиях по взлому специально выбранных программ.
