Ошибки искусственного интеллекта становятся опаснее по мере того, как нейросетям доверяют все больше самостоятельных действий. При этом полностью исключать человека из процесса принятия решений нельзя. Об этом сообщает 360.ru со ссылкой на эксперта в области искусственного интеллекта и управления знаниями Владимира Лещенко.
Исследования показывают, что нейросети могут допускать ошибки и демонстрировать предубеждения. Так, британская финтех-компания Saturn протестировала 18 моделей искусственного интеллекта на вопросах о личных финансах. Для них подготовили 121 вопрос о налогах, пенсиях, долгах, ипотеке и сбережениях.
В среднем модели ошибались в 57% случаев. В более сложных заданиях, требующих нескольких последовательных действий, доля неправильных ответов достигала 88%. Платные версии нейросетей показали лучший результат: ошибки выявили в 49% их ответов против 63% у бесплатных.
По словам Лещенко, ответы искусственного интеллекта зависят в том числе от информации, использованной для обучения модели. В ней могут содержаться созданные людьми ошибки и стереотипы. Также значение имеют устройство самой нейросети и формулировка запроса пользователя.
«Собственных убеждений у ИИ не существует. ИИ не настолько интеллектуален, как некоторые считают», — подчеркнул эксперт.
Особенно опасной ситуация становится, когда искусственный интеллект получает возможность самостоятельно выполнять задачи и взаимодействовать с компьютерными системами. Степень допустимой самостоятельности ИИ, по словам Лещенко, должна зависеть от возможных последствий его решений.
Эксперт считает, что в критической инфраструктуре нельзя допускать полной автоматизации принятия решений, поскольку от них могут зависеть люди и целые города. Искусственный интеллект способен анализировать данные и предлагать варианты действий, однако окончательный выбор должен оставаться за человеком.
Лещенко добавил, что остановить распространение искусственного интеллекта невозможно и со временем технология будет применяться практически повсеместно. При этом передавать ИИ полный контроль над принятием решений не следует.
