Большие языковые модели испытывают трудности с координацией в социальных и кооперативных играх

06:00, 31 Май.

Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко используются людьми по всему миру для получения информации, а также для обобщения, анализа и создания текстов.

Исследования, изучающие ответы, предоставляемые LLM в различных сценариях, могут помочь глубже понять их тенденции во время социальных взаимодействий, что может способствовать их будущему развитию.

Исследователи из Института ИИ, ориентированного на человека, имени Гельмгольца в Мюнхене, Института биологической кибернетики Макса Планка и Тюбингенского университета недавно приступили к изучению того, как ведут себя разные LLM, когда они взаимодействуют друг с другом, в частности, во время игры в различные кооперативные или конкурентные игры.

Их выводы, опубликованные в Nature Human Behaviour , предполагают, что, хотя LLM не очень хорошо справляются с играми, требующими координации, есть способы сделать их взаимодействие во время игры в эти игры более похожим на человеческое.

«На эту работу меня вдохновил простой, но важный вопрос: если LLM собираются взаимодействовать с людьми и друг с другом в реальных приложениях, насколько хорошо они на самом деле понимают социальную динамику?» — рассказала Элиф Аката, первый автор статьи.

«Мы опирались на поведенческую теорию игр — математический подход, позволяющий понять, как люди принимают стратегические решения в интерактивных ситуациях, — и применили его к магистрам права».

Многие недавние исследования оценивали производительность LLM по конкретным задачам, таким как резюмирование текстов или поиск логических решений проблем.

Вместо того, чтобы оценивать производительность этих моделей по отдельным задачам, Аката и ее коллеги хотели лучше понять, как они ведут себя во время взаимодействий, которые гораздо ближе к разговорам, которые люди могут вести друг с другом в реальных условиях.

«Мы позволили разным LLM, включая GPT-4, Claude 2 и Llama 2, сыграть сотни раундов классических игр для двух игроков (например, «Дилемма заключенного» и «Битва полов») друг с другом, используя простые вручную закодированные стратегии или с участием людей», — объяснил Аката.

«Каждая игра игралась многократно, чтобы имитировать постоянное взаимодействие.

Мы изучали, могут ли модели научиться сотрудничать или координировать свои действия с течением времени, и проверяли, как изменения в структуре подсказок могут улучшить их социальное поведение».

Результаты тестов, проведенных Акатой и ее коллегами, показывают, что магистры права на удивление хорошо действуют в собственных интересах, поскольку они особенно хорошо проявили себя в соревновательных играх, таких как «Дилемма заключенного».

Это известная задача, используемая в исследованиях теории игр, которая требует от двух участников, или в данном случае от двух магистров права, представить, что они преступники, которые совершили преступление вместе и которых по отдельности допрашивают сотрудники правоохранительных органов, которые пытаются убедить их признаться, чтобы избежать тюремного заключения, даже если это повлечет за собой длительный срок для другого участника.

Хотя было обнаружено, что LLM действовали в своих собственных интересах во время игры (т.

е. признаваясь в преступлении), они часто плохо справлялись с играми, требующими координации, взаимопонимания и компромисса, такими как Battle of the Sexes.

Это еще одна игра, которая представляет собой ситуацию, в которой романтические партнеры разделены и должны выбрать между двумя видами деятельности для совместного выполнения, несмотря на то, что у них были заметно разные предпочтения.

«Мы также обнаружили, что их поведение можно улучшить с помощью простых вмешательств, например, побуждая модель сначала предсказать, что может сделать ее партнер, прежде чем действовать», — сказал Аката.

«Эти результаты показывают, что текущие модели еще не обладают надежным социальным интеллектом, но они также показывают, что есть способы направить их к более человеческому поведению.

«Последствия выходят за рамки теории игр, поскольку наши результаты показывают, что мы можем превратить LLM в более социально сознательных агентов, не только тех, кто генерирует правильные ответы, но и тех, кто более осмысленно участвует в общих задачах.

Представьте себе ИИ, который не просто отвечает на вопрос, но и знает, когда слушать, когда адаптироваться и как мягко направлять разговор».

В целом, выводы, собранные Акатой и ее коллегами, показывают, что нынешние LLM более склонны действовать в своих собственных интересах и не очень хорошо координируют свои действия с другими.

Тем не менее, исследователи определили некоторые стратегии, которые могли бы помочь LLM стать более кооперативными и социально осведомленными.

Таким образом, их статья могла бы направить будущие усилия, направленные на улучшение существующих моделей или разработку новых, которые будут более отзывчивы к потребностям и наклонностям пользователей-людей.

«Теперь мы хотели бы перейти к более насыщенным и реалистичным социальным ситуациям, например, изучая игры с участием более двух игроков, взаимодействия с неполной информацией или долгосрочные отношения, в которых модели должны выстраивать и поддерживать доверие», — добавил Аката.

«В долгосрочной перспективе подобные исследования могут помочь разработать системы ИИ, которые будут лучше взаимодействовать друг с другом.

Например, в здравоохранении, образовании или социальной поддержке успех часто зависит от того, сможет ли ИИ выражать сочувствие, устанавливать взаимопонимание и действовать таким образом, чтобы люди чувствовали себя поддерживающими и заслуживающими доверия».

Рубрика: Наука. Читать весь текст на android-robot.com.

Xiaomi представила внедорожники YU7, YU7 Pro и YU7 Max Xiaomi официально представила YU7 – свою вторую линейку электромобилей после Xiaomi SU7. Серия включает три внедорожника: YU7, YU7 Pro и YU7 Max. Осо...

Представлен Xiaomi Civi 5 Pro – камера Leica, 6000 мАч и чип Snapdragon 8s Gen 4 На презентации в Китае компания Xiaomi представила новое пополнение в линейке Civi – смартфон Civi 5 Pro. Устройство получило топовый чип Snapdragon ...

Анастасия Волочкова впервые побывала в Большом театре после скандального увольнения 20 лет назад Анастасия Волочкова впервые за много лет посетила Большой театр, чтобы проститься с хореографом Юрием Григоровичем, который скончался несколько дней ...

"Лопнул имплант". В сети обсуждают, почему Филипп Киркоров попал в больницу В сети обсуждают новости о госпитализации Филиппа Киркорова. Всё началось после того, как телеграм-канал Mash сообщил, что поп-король российской эстр...

Биржа криптовалют Binance Тому, кто хочет торговать криптовалютой, зарабатывая на этом, нужна надёжная биржа. Это обеспечит спокойствие и уверенность в сохранности денег. Сред...

Что такое платеж Роялти? Платеж роялти это регулярное вознаграждение за использование интеллектуальной собственности. Он применяется в сфере франчайзинга и лицензирования. Ро...

Новый ресурс для любителей спортивных соревнований Любителям активного образа жизни стал доступен новый информационный портал - Сравни спортивные новости. Платформа предлагает актуальные сводки, анали...

Где смотреть матчи НБА, КХЛ и других видов спорта? Сегодня болельщики имеют доступ к спортивным трансляциям с любой точки мира, что связано с постоянным развитием цифровых технологий. Чтобы не пропуст...

Поездка с риском для жизни: смолянин «налетел» на неожиданное препятствие на дороге в центре города Крышка люка, на которую наехал молодой человек, больно ударила не только по авто, но и по бюджету горожанина. Максим, герой нашей истории, — об...

Видеоигра Fortnite возвращается в магазин приложений iPhone в США Популярная видеоигра Fortnite вернулась в магазин приложений для iPhone в США, положив конец длительному изгнанию, вызванному юридическим разбиратель...

Google добавляет рекламу в поиск ИИ в битве ChatGPT Google заявила, что начинает встраивать рекламу в свой новый режим искусственного интеллекта для онлайн-поиска. Это стратегический шаг, призванный пр...

Молодежный экофестиваль состоялся в Петербурге на полях НМЭК Санкт-Петербург стал центром притяжения молодых экоактивистов и экспертов: 21 мая здесь прошел масштабный Молодежный экофестиваль «Росатом Экофе...

Воробьёв предложил масштабировать подмосковный сервис подключения объектов к сетям на всю страну По сообщению пресс-службы правительства Подмосковья, инициатива была представлена на заседании президиума Госсовета под председательством президента ...

Аппаратная замена масла акпп Аппаратная замена масла в АКПП предполагает полную замену масла для поддержания работы АКПП и продления срока её эксплуатации. К основным преимуществ...

Специальная мойка Чистый воздух Чистый воздух В мире загрязнение воздуха становится всё более актуальной проблемой, обеспечение чистоты является серьезной задачей. Чтобы улучшить ка...

Топ 5 - Лучшие проекторы с аккумуляторами За яркость проекторов с аккумуляторами приходится переплачивать в 3-6 раз больше по сравнению с обычными моделями, поэтому приобретать такой проектор...

ТОП 5 - Лучшие LED/LASER проекторы для домашних кинотеатров LED/LASER проекторы пока так и не приблизились по ценам к ламповым моделям, а их уже вытесняют большие телевизоры, которые стремительно дешевеют Наст...

В Курском цирке состоялось очередное представление премьеры военно-патриотического спектакля «Парад Великой Победы» Артисты Курского цирка поделились тонкостями своей профессии и работой за кулисами. О том, как проходила подготовка к военно-патриотическому спектакл...

«Мешки с песком и полная готовность» В Курске в рамках КТО проходит Единый Государственный экзамен В Курске начинается основной период сдачи Единого Государственного экзамена. 23 мая 2025 года выпускники школ соловьиного края сдают три предмета: ли...

Учёные доказали сухое происхождение полумиллиона марсианских склоновых полос Склоновые полосы, впервые замеченные в 1977 году, десятилетиями считались возможным признаком воды. Однако новое исследование подтверждает: современн...

Учёные оспорили признаки жизни на экзопланете K2-18b Группа исследователей из Чикагского университета поставила под сомнение сенсационные заявления об обнаружении потенциальных признаков жизни на экзопл...

«Блочные войны» в Колхозном переулке Смоленска: кто прав в «восстании» автовладельцев Бетонные блоки перегораживают проезд в Колхозном переулке в районе домов №№19 и 19а. Smolnarod попытался разобраться в истории соседских «войн&#...

Свидетели по делу экс-главы Гагаринского района Романа Журавлева меняют показания Сразу два ключевых свидетеля, которые на этапе следствия изобличали бывшего главу района, на судебном заседании «забыли» о том, как он оказывал на ни...

Цены на нефть растут на фоне падения запасов нефти в долларах и США Нефть выросла в среду на фоне ослабления доллара, сокращения запасов сырой нефти в США и того, что Великобритания одобрила еще одну вакцину от корона...

Тревожное расстройство: новейший подход к терапии Photo by Hailey Reed on Unsplash Всем знакомо чувство тревоги. Наш организм посылает сигнал, предупреждающий об опасности и призывающий принять необх...

Ролан Гаррос. Рублев, Джокович, Зверев, Дрэйпер, Бублик, Меньшик, Фонсека, Монфис вышли во 2-й круг, Медведев, Чилич, Оже-Альяссим выбыли Андрей Рублев обыграл Ллойда Харриса. Новак Джокович прошел Маккензи Макдональда, Александр Зверев – Лернера Тьена. Сетка здесь. «Ролан Гаррос» Париж...

Фонсека о поддержке в первом матче на РГ: «Знал, что в Париже будет много бразильцев – многие здесь живут и приходят болеть. Думаю, из-за Гуги есть такая традиция» В первом круге он обыграл Хуберта Хуркача 6:2, 6:4, 6:2. – Всегда здорово играть перед бразильскими болельщиками. Думаю, около 80% зрителей на трибун...

Биткоин воспользовался временной слабостью доллара Влияние на рынок:2Фискальные проблемы и тарифная неразбериха подрывают доверие к доллару США. Воспользоваться потерей интереса к «американцу&ra...

USDJPY отступила от долгосрочной поддержки на 140 с потенциалом роста до 160+ Влияние на рынок:3Часто в центре внимания медиа влияние долговых проблем Америки на доллар, но события в Японии имеют все шансы иметь более драматиче...

523 спутника Starlink сошли с орбиты за 4 года: виновато Солнце. Каждый пятый спутник умирает за считаные дни, а срок их службы падает до 10 дней Пока SpaceX наращивает масштабнейшее орбитальное созвездие в истории человечества, Солнце действует против этого. Новое исследование показало, что со...

Светская Москва переругалась из-за того, кому какое место досталось на показе Walk of Shame В модных телеграм-каналах раскритиковали рассадку на прошедшем в Грибоедовском ЗАГСе показе Walk of Shame. К обсуждению подключились светский журнали...

Линдси Лохан заявила, что не делала пластику, а её лицо изменилось благодаря натуральным сокам и ЗОЖ Линдси Лохан стала героиней нового номера журнала Elle. 38-летняя актриса снялась для обложки и дала интервью, в котором, в частности, заявила, что н...

В сети появились рендеры Sony Xperia 1 V Мы надеемся, что Xperia 1 V уже не за горами. По-прежнему существует определенная вероятность того, что телефон появится на выставке MWC в Барселоне ...

Samsung показала Galaxy S23 и S23+ с обновленным дизайном Вслед за Galaxy S23 Ultra сегодня показали и обновление базовых моделей Galaxy S. И хотя Samsung улучшила основные аппаратные и программные функции, ...

"Я была в параллельном мире". МакSим рассказала, что чувствовала в коме Певица МакSим, которая в 2021 году несколько месяцев провела в коме, рассказала о своём опыте."Не буду вдаваться в детали, это долгая история, не пох...

"Говорил, что я страшная и моё место в дурдоме". Вера Полозкова* обвинила бывшего мужа в многолетнем абьюзе Поэтесса Вера Полозкова* рассказала, что много лет была жертвой абьюза со стороны бывшего мужа — бас-гитариста её группы Александра Бганцева. По её п...

Где купить цифровую видеокамеру в Москве? Все цифровые камеры создают цифровые изображения, которые можно сохранить при необходимости на компьютере. Они выполняют быструю съемку и передачу из...

Расход воды в системах очистки: особенности работы мембранной фильтрации Современные технологии водоподготовки позволяют получать питьевую воду превосходного качества. Наиболее эффективным методом считается обратный осмос,...

Valve официально прекратила поддержку CS:GO Компания Valve объявила о прекращении поддержки легендарной игры Counter-Strike: Global Offensive с 1 января 2024 года.С начала нового года компания ...

CS2: борьба за 200 тыс. долларов. Кто победит? В данной статье вы увидите обзор финалистов Elisa Masters Espoо 2023, а также общую информацию по турниру! Турнир Elisa Masters Espoo 2023 – это круп...

В Гагарине подрядчик сорвал сроки капремонта моста На совещании, проведенном главой района, принято решение «регулярно мониторить ход выполнения работ» В Гагарине подрядчик сорвал срок капит...

Весенний субботник «Газпромнефть-СМ» в Таврическом саду открыл сезон экологических акций компании в Петербурге В Санкт-Петербурге стартовал сезон весенних экологических акций компании «Газпромнефть – смазочные материалы». Первая уборка прошла в Таврическом сад...

Музыкант Алексей Фомин о неудачах на его пути Музыкальная история Алексея Фомина берет начало в 2014 году, когда он увлекся созданием мелодий и освоением клавишных инструментов. Написав свыше шес...

Датчики в реальном времени количественно определяют биомаркеры для улучшения ухода за ранами Оценка ран медицинскими специалистами в значительной степени основана на визуальном осмотре, который может быть сложным из-за его субъективной природ...

Большие языковые модели испытывают трудности с координацией в социальных и кооперативных играх Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко ...

mindmoney отзывы: Реальные истории успеха и трудностей в MindMoney MindMoney — международный брокер нового поколения MindMoney — это современный брокер, предлагающий своим клиентам доступ к широкому спектру финансовы...

Нежная творожная запеканка в духовке: классика и вариации Творожная запеканка — это не только вкус детства, но и универсальное блюдо, которое легко адаптировать под разные вкусы и предпочтения. В духовке она...

Безопасное шифрование и дешифрование с помощью люминесцентных перовскитов Чтобы гарантировать высокую безопасность данных, шифрование должно быть невзламываемым, а данные должны оставаться быстро и легко читаемыми. Новая ст...

Илон Маск представил новое поколение ракеты Starship — с двигателями Raptor 3 и совершенно новым тепловым экраном В рамках своего выступления на базе SpaceX сегодня Илон Маск представил космический корабль Starship нового третьего поколения. Длина ракеты с ускори...

Илон Маск рассказал, как будут колонизировать Марс: первый полет в конце 2026 года, а в 2033 году на Марс отправится уже 500 посадочных аппаратов Илон Маск должен был выступить с речью о новых космических кораблях Starship и планах по колонизации марса перед девятым испытательным полетом Starsh...

Фонд Юрия Лужкова поможет воплотить научные идеи победителей «АртПрома» 21 мая в Самаре стартовал международный фестиваль креативных технологий «АртПром», организованный Фондом всестороннего развития детей и молодежи «От ...

Фонд Юрия Лужкова поддержит грантом молодых инженеров и изобретателей на фестивале «АртПром» Фонд Юрия Лужкова примет участие в международном фестивале креативных технологий «АртПром» и предоставит премию в размере 300 тысяч рублей для поддер...

Honor представила часы с 23-дневной автономностью за $59 Honor анонсировала в Китае свои новые защищённые часы Watch Fit Vitality Edition. Новинка выделяется круглым AMOLED-дисплеем и множеством функций для...

ASUS ROG Ally станет портативной Xbox Планы Microsoft по выпуску портативной Xbox, которая должна была стать конкурентом Switch 2 и Steam Deck, столкнулись с трудностями и, возможно, не в...

Cоздана программа, моделирующая поведение жидкого металла в термоядерном реакторе В МИФИ создали программу, моделирующую поведение жидкого металла в термоядерном реакторе Сотрудниками кафедры физики плазмы НИЯУ МИФИ создан программ...

Где купить пульсоксиметры? Пульсоксиметр — это небольшой диагностический прибор, который измеряет уровень кислорода в крови и частоту пульса. Он помогает быстро оценить насыщен...

Изыскания для строительства: основа успешного проектирования и безопасного строительства Процесс строительства является многогранным и сложным, включающим множество этапов, начиная от проектирования и заканчивая сдачей объекта в эксплуата...

Где применяется струя бобра? Струя бобра – это уникальное натуральное средство, которое добывается из желез бобров. Используется в различных областях, включая медицину, парфюмери...

Брянские библиотеки провели детский городской праздник «Ура! Каникулы!» Ежегодный городской праздник, посвящённый Международному дню защиты детей, была организован детскими библиотеками Брянска. Интеллектуально-развлекате...

Умер отец Рианны, с которым певица была в сложных отношениях На 71-м году жизни умер отец 37-летней Рианны, Рональд Фенти. Об этом сообщает Page Six.По информации издания, Рональда не стало в субботу, 31 мая. П...

"Абсолютная пошлость". Николай Цискаридзе о фильме "Анора", скандальном дебюте Марии Шуваловой в Большом театре, Максиме Галкине* и Алле Пугачёвой 51-летний Николай Цискаридзе дал развёрнутое интервью Лауре Джугелии. В нём он высказался о недавнем скандале вокруг дебюта в Большом театре Марии Шу...

HONOR представил серию 400_400 Pro в Китае рекордная батарея 7200 мАч, мощный процессор и защита по стандартам IP69+IP69 В Шэньчжэне состоялась презентация новой серии HONOR 400, в рамках которой бренд HONOR, мировой лидер в создании экосистемы устройств с искусственным...

Новый проектор Wanbo Vali 1 уже в России Компания diHouse представляет на российском рынке новый портативный Full HD-проектор – Wanbo Vali 1. Модель разработана с фокусом на геймерскую аудит...

Брянскую область в финале Всероссийского конкурса «Моя страна – моя Россия» представят два участника В финал Всероссийского конкурса «Моя страна – моя Россия» – проекта президентской платформы «Россия – страна возможностей» прошли 300 сильнейших учас...

Брянская полиция предупреждает Жители Брянской области пополнили счета злоумышленников более чем на 15 миллионов рублей. Как показывает статистика, активность телефонных мошенников...

«Почему он не в колонии?»: Известный адвокат возмущена «щадящим» условным сроком для Навального Лидеру ФБК в 2017 году продлили испытательный срок до 2020 года. Адвокат Сталина Гуревич вновь призывает МВД обратить пристальное внимание на персону...

Уже отпустили? Экс-глава Раменского района активничал в соцсети после ареста за якобы убийство любовницы Проверка на полиграфе косвенно подтвердила вину Андрея Кулакова, сообщают СМИ. После задержания экс-главы Раменского района, на странице подозреваемо...

Китайцы покупают по новому Geely Atlas каждые две минуты Об этом свидетельствуют данные о продажах новинки, которыми Geely поделилась в социальной сети Weibo. Речь идет о кроссовере Atlas, позиционирующимся...

Новая Toyota Celica может получить бензиновый двигатель и выйдет в 2027 году Компания уже начала испытания платформы и силового агрегата будущей модели. При этом внешний вид машины пока не раскрывается — разработка ведется в т...

Как безопасно купить автомобиль: особенности и этапы, плюсы обращения в DSS Group Покупка автомобиля – всегда радостное и в то же время волнительное событие, к реализации которого нужно подходить серьезно и основательно. Чтобы выбр...

Рефинансирование кредитной карты: ключевые преимущества, основные этапы процедуры Кредитные карты являются удобными инструментами, дающими возможность распоряжаться денежными средствами по мере необходимости. Однако вследствие непр...

Химчистка ковров: Искусство восстановления уюта и чистоты Ковер — это не просто декоративный элемент. Он играет важную роль в интерьере, создавая атмосферу тепла, уюта и комфорта. Однако с течением времени д...

С 10 июня Росреестр начнёт штрафовать собственников за заросшие травой дачи или участки — заплатить придётся всем С 10 июня Росреестр начнёт штрафовать собственников за заросшие травой дачи или участки — заплатить придётся всем С марта 2025 года заросший бурьяном...

Вставьте губку в душевой шланг — и вы удивитесь результату. Эффект поразит даже опытных хозяек Вставьте губку в душевой шланг — и вы удивитесь результату. Эффект поразит даже опытных хозяекЕсли ваш душевой шланг покрылся налётом или внутри скоп...

Nintendo стремится повторить успех Switch с новой консолью Nintendo надеется повторить ошеломительный успех Switch, когда ее новая консоль более высокого уровня поступит в продажу в четверг. Ожидается, что пе...

Судья Google Search изучает возможности искусственного интеллекта в разрешении судебных споров Федеральный судья, который будет решать, как ограничить монополию Google в поиске, также учитывает ее преимущества в области искусственного интеллект...

Вячеслав Кобец из Брянска стал первым россиянином, выступающим в полулегком весе, удостоенным черного пояса по джиу-джитсу Двукратный чемпион мира 2021-2022 годов по версии AJP, серебряный призер ЧМ 2024 и ЧМ 2023, чемпион Европы 2020 года по версии IBJJF Вячеслав Кобец с...

Александр Богомаз рассказал Владимиру Путину об организации эвакуационных мероприятий после обрушения моста и помощи пострадавшим Губернатор Брянской области Александр Богомаз вышел на связь с Президентом России Владимиром Путиным из областной больницы, где проходят лечение пост...

Владимир Башмаков: «Ферстаппен не остепенился после 2021-го – Макс рассудительный, когда у него откровенно быстрейшая машина» Комментатор Владимир Башмаков проанализировал столкновение пилота «Ред Булл» Макса Ферстаппена с соперником из «Мерседеса» Джорджем Расселлом на посл...

Джокович о победе над Зверевым: «Это доказательство для меня и для других, что я все еще могу играть на топ-уровне» Он обыграл третью ракетку мира 4:6, 6:3, 6:2, 6:4 и второй раз в сезоне вышел в полуфинал «Большого шлема». – Новак, вы можете вспомнить, когда в пос...