В Госдуме призвали не допустить потери контроля человека над ИИ

Немкин: Надо не допускать ситуаций, когда человек теряет контроль над ИИ

Депутат Госдумы Антон Немкин заявил, что при сохранении текущих темпов развития искусственного интеллекта контроль над автономными системами и ИИ-агентами станет одним из ключевых вопросов технологической безопасности, особенно если они получат возможность самостоятельно взаимодействовать с интернетом и цифровыми сервисами. В беседе с RT парламентарий подчеркнул, что правильный ответ на эти вызовы не в том, чтобы остановить или искусственно замедлить развитие технологии.

«Гораздо важнее научиться управлять этой технологией: понимать ее возможности и ограничения, устанавливать зоны ответственности и не допускать ситуаций, когда человек фактически теряет контроль над системой», — заявил Немкин.

По его словам, технологический прогресс все равно продолжится, и если одни страны откажутся от развития ИИ, другие этого не сделают. Именно поэтому регулирование становится принципиальным вопросом: с 1 сентября в России уже вступили в силу положения, формирующие базовые правила в сфере ИИ, а следующий этап — развитие этих механизмов с учетом скорости появления новых моделей и агентов.

Создатели западных ИИ просят притормозить гонку моделей. Почему они испугались именно сейчасOpenAI заявила о решении задачи тысячелетия и попала в скандал. Чем это грозит науке

Отдельной задачей депутат назвал технологический суверенитет, отметив, что контролировать риски ИИ невозможно, если критически важные технологии, вычислительные мощности и ключевые решения находятся за пределами российской юрисдикции. Он подчеркнул необходимость собственных моделей, инфраструктуры и специалистов, не исключая международного взаимодействия и обмена компетенциями.

Ранее генеральный директор компании OpenAI (разработчик ChatGPT) Сэм Альтман согласился, что риск вымирания человечества из-за ИИ достаточно серьезен, и компаниями, занимающимся ИИ, а также правительствам нужно показывать, что это недопустимо.

Спасибо, что читаете наши новости! Не забудьте подписаться на Телеграмм-канал!