Глава РАН Красников предложил поручить одному ИИ контроль за развитием другого

Развитие искусственного интеллекта со временем может стать сложнее для контроля со стороны человека, поэтому следить за технологиями ИИ должна другая модель. Об этом в беседе с [SOURCE10]РИА Новости [/SOURCE10]рассказал глава Российской академии наук, ученый в области микро- и наноэлектроники Геннадий Красников.

По его словам, полностью остановить развитие искусственного интеллекта невозможно. Для повышения безопасности Красников предложил создавать системы, в которых одна модель контролирует другую, а при необходимости подключать к этому процессу третью.

Глава РАН также отметил необходимость внимательно изучать уязвимости фреймворков, на основе которых создаются языковые модели. По его мнению, нужны правила, которые будут регулировать разработку методов машинного обучения и прикладных моделей для ИИ.

Красников назвал языковые модели основой искусственного интеллекта и отметил их значение для создания суверенных технологий. В этом направлении, по его словам, предпочтение следует отдавать решениям отечественных компаний.

При этом для прикладных задач нужны более точные специализированные модели. В частности, при разработке лекарств от тяжелых заболеваний, отметил академик, их следует обучать на больших массивах данных.

"Они должны быть на порядок точнее, чем языковые модели для этих задач", – сказал Красников.

По словам главы РАН, для таких задач Россия может создавать собственные модели или использовать зарубежные. При этом главным требованием к ним должна быть доверенность: системы должны быть защищенными и выдавать корректные результаты.

Ранее в публичном пространстве активно обсуждались риски, связанные с развитием ИИ. В частности, двое сотрудников компании Anthropic заявляли, что в течение 10 лет вероятность уничтожения человечества искусственным интеллектом может составить 10%. Неутешительный прогноз поддержали американский миллиардер Илон Маск, которому принадлежит xAI, и глава OpenAI Сэм Альтман.