Дворянский: В основе ИИ заложен принцип «не навреди человеку»
Эксперт по кибербезопасности Александр Дворянский заявил, что искусственный интеллект сегодня полностью находится под контролем человека, а в его основу изначально заложен принцип «не навреди человеку». Своими знаниями он поделился в беседе с НСН.
Дворянский прокомментировал сообщения о том, что американские компании разрабатывают механизмы экстренной остановки нейросетей, способные предотвратить опасное поведение технологий без участия человека.
«Потенциально риск выхода из-под контроля, конечно, есть. Но опять же, у ИИ есть первый закон роботов, то есть робот не может причинить вред человеку. Здесь примерно та же идеология. Это стоп-слово заложено изначально», — пояснил Дворянский.
По его словам, ИИ действительно может обучаться самостоятельно и выполнять базовые рутинные процедуры, но только те, которые настроил и разрешил человек, а самостоятельность системы регулируется «поводком». Эксперт отметил, что подобные механизмы аварийной остановки существуют и в России, а решение о «стоп-кране» он назвал логичным и своевременным.
Ранее психиатр Руслан Исаев предупредил россиян о вреде частого обращения к ИИ. Такое злоупотребление может привести к утрате потребности в живом контакте. Врач отметил, что в группе риска находятся те, кто склонен к тревожным, депрессивным состояниям или социальной изоляции.
Спасибо, что читаете наши новости! Не забудьте подписаться на Телеграмм-канал!
Ваш комментарий будет первым