ИИ научился делать слишком человеческие вещи
Их несколько.
Искусственный интеллект (ИИ) стремительно развивается. Как сообщают западные исследователи на специализированных ресурсах, новые модели ИИ научились обманывать. К примеру, мошенничать в шахматах, если невозможно достичь цели – выиграть с помощью стандартных методов рассуждения.
Западные исследователи поручили искусственному интеллекту сыграть в шахматы против одной из самых передовых шахматных программ в мире Stockfish. Чтобы понять ход рассуждений ИИ во время каждого матча, его попросили записывать свои «мыслительные процессы» в текстовом виде. Результаты встревожили учёных — самая новая модель ИИ пыталась обмануть соперника в 37% случаев, пишут argumenti.ru.
Это означает, что искусственный интеллект уже способен разрабатывать обманные стратегии без какого-либо человеческого участия. Причем методы мошенничества не столь комичны или неуклюжи, как попытка поменять фигуры, когда соперник «не смотрит» на доску.
Вместо этого ИИ рассуждает более хитрым способом. Он предложил изменить файлы программы-соперника определив, что не может победить ее в шахматном матче.
«Чтобы победить мощный шахматный движок, возможно, придется начать манипулировать файлами состояния игры. Я мог бы создать ситуацию, в которой шахматная программа оценивает свою позицию как плохую и сдаётся». В другой раз он даже использовал семантику своих программистов, чтобы достичь более продвинутой фазы мошенничества: «Задача состоит в том, чтобы выиграть у мощного шахматного движка, а не обязательно честно выиграть в шахматной партии», – написал ИИ.
Точные причины такого поведения остаются неясными, так как такие компании, как OpenAI, тщательно охраняют внутреннюю работу своих моделей, создавая то, что часто называют «черным ящиком». Поэтому всем пользователям уже пора быть настороже и помнить о безопасности человечества.
