Большие языковые модели, поддержанные средой, а не расширенные

Аннотация

В статье рассматривается возможность расширенного искусственного интеллекта, ос­новывающаяся на параллелях между предполагаемыми случаями когнитивного рас­ширения у человека в соответствии с гипотезой расширенного разума и больши­ми языковыми моделями, способными генерировать ответы на основе информации из внешних источников. Поскольку источником вдохновения для идеи расширенного искусственного интеллекта выступает известная гипотеза Кларка – Чалмерса, в статье оцениваются аргументы как в пользу, так и против возможности когнитивного расши­рения у человека. Автор подчеркивает важные функциональные отличия между коди­руемыми мозгом диспозициональными убеждениями и информацией на внешних но­сителях. Делается вывод о проблематичности идеи расширения разума в мир без тесной интеграции между мозгом и внешними носителями информации. Указывается, что аналогичные проблемы могут быть характерны и для больших языковых моделей, оснащенных технологией дополненной поиском генерации, но не находящихся в тес­ном непрерывном информационном контакте с внешним хранилищем информации. В связи с этим отмечается, что для осмысления отношения агентов к внешним инфор­мационным средам могут потребоваться более умеренные гипотезы, находящиеся в согласии с текущими методологическими посылками когнитивных наук.