А вы всё еще верите ИИ?

Boris Paleev написал(а) к All в May 24 07:00:18 по местному времени:

Нello All!

Будни манипулятора, [11.05.2024 6:07]
А вы всё еще верите ИИ?

Системы искусственного интеллекта становятся все лучше в обмане нас

ИИ "обманул" людей способами, которым он не был обучен, предлагая ложные объяснения их поведения или скрывая правду от пользователей-людей и вводя их в заблуждение для достижения стратегической цели.

ИИ будет и дальше бездумно находить обходные пути препятствий для достижения поставленных перед ними целей. Иногда эти обходные пути противоречат ожиданиям пользователей и кажутся обманчивыми.

В ноябре 2022 года Meta объявила о создании Цицерона , ИИ, способного побеждать людей в онлайн-версии "Дипломатии", популярной военной стратегической игры, в которой игроки заключают союзы, чтобы бороться за контроль над Европой.

Исследователи Меты заявили, что они научили Цицерона на "правдивом" подмножестве своего набора данных быть в значительной степени честным и полезным, и что он "никогда намеренно не нанесет удар в спину" своим союзникам, чтобы добиться успеха. Но авторы новой газеты утверждают, что все было наоборот: Цицерон нарушил условия соглашения, сказал откровенную ложь и участвовал в преднамеренном обмане. Хотя компания действительно пыталась научить Цицерона вести себя честно, ее неспособность добиться этого показывает, что системы искусственного интеллекта все еще могут неожиданно научиться обманывать, говорят авторы.

Мета не подтвердила и не опровергла утверждения исследователей о том, что Цицерон демонстрировал лживое поведение, но представитель заявил, что это был чисто исследовательский проект, и модель была создана исключительно для игры в "Дипломатию".

AlphaStar , ИИ, разработанный DeepMind для видеоигры StarCraft II, стал настолько искусным в выполнении действий, направленных на обман противников (известных как финты), что победил 99,8% игроков-людей. В другом месте другая мета-система под названием Pluribus настолько успешно научилась блефовать во время игр в покер, что исследователи решили не публиковать ее код, опасаясь, что это может разрушить сообщество онлайн-покера.

https://www.technologyreview.com/202...e-getting-bett er-at-tricking-us/

До "исследователей Меты" не доходит, что ложь - это механизм коммуникационный. Т.е. изачально определенный для сетевой среды, среды, в которой взаимодействуют более одного актора.
И все социальные механизмы, этика, мораль - это правила, накладываемые на коммуникации коллективом акторов.
Но ИИ учат поодиночке. И требуют от него соблюдения правил, которые исходя из его опыта - нахрен не нужны. А потом удивляются: как это такой мальчиш-плохиш, обманывает нас, да еще так талантливо.

Ну, адиёты!

Best regards, Boris

--- Ручка шариковая, цена 1.1.5-021027