Originally published at: ChatGPT не простая балаболка, а относительно умный партнер по коммуникации — Рустам Агамалиев
Однажды, в весьма интересном сообществе, посвященном управлению знаниями[^19] администрация подселила интеллектуального бота, работающего на ChatGPT, это привело к уникальной ситуации, участники сообщества перестали общаться друг с другом, а вместо этого со всеми вопросами по теме и нет, обращались к боту.
Всего за месяц общение участников сошло на нет, а бот без устали отрабатывал запросы, которые иногда были вполне осознанными и любопытными, но часто и откровенно глупыми. Например, если пройти по этой ссылке, можно прочесть забавную дискуссию о частушках. В целом раздел спроси у ChatGPT, может предоставить богатую почву для размышлений. Однако когда мы спросили отдельных участников сообщества, почему вместо человеческого общения они выбирают общение с ботом, то получили весьма неожиданную обратную связь, например, один участник рассказал, что обращается к боту, с тему вопросами, с которыми не пойдет к человеку, возможно даже не обратиться и к психотерапевту.
В 1965 году уже была попытка создать что-то подобное, машину, которая говорит с человеком и создают иллюзию эмоциональной привязанности. Джозеф Вейзенбаум разработал первый чатбот, который использовал естественный язык для общения с человеком. Чтобы поддержать диалог между машиной и человеком Вейзенбаум использовал прием клиентцентрированной психотерапии, поддерживающий фасилитирующий взаимоотношения. А если еще проще, то в момент когда пользователь отправлял компьютеру сообщение, Элиза (чатбот) анализировала текст на наличие ключевых слов, которые и использовала в своем ответе. Она брала идею исходного сообщения и трансформировала ее:
[!quote] Фрагмент диалога между человеком и машиной
Человек: Мужчины все одинаковые.
Компьютер: В ЧЕМ?
Человек: Они постоянно нас чем-то достают.
Компьютер: ВЫ МОЖЕТЕ ПРИВЕСТИ КОНКРЕТНЫЙ ПРИМЕР?
Человек: Ну, мой парень заставил меня прийти сюда.
Компьютер: ТВОЙ ПАРЕНЬ ЗАСТАВИЛ ТЕБЯ ПРИЙТИ СЮДА?
Человек: Он говорит, что я большую часть времени нахожусь в депрессии.
Компьютер: МНЕ ЖАЛЬ СЛЫШАТЬ, ЧТО У ВАС ДЕПРЕССИЯ
Человек: Это правда. Я несчастна[^20].
Компьютер: …
Чтобы проверить способность Элизы к коммуникации с собеседником, Вейзенбаум приглашал студентов и коллег к себе в офис и предлагал им поговорить с машиной, в то время как он наблюдал и записывал. Неожиданностью стал факт эмоциональной связи между человеком и машиной. Люди открывались перед машиной и рассказывали ей о проблемах с которыми сталкивались в жизни и взаимоотношениях, эмоции сохранялись даже после того как Вейзенбаум объяснял принципы работы машины и каким образом она формирует свои ответы. Он особо акцентировал внимание испытуемых, что машина не понимает о чем говорит человек, а лишь рефлексирует на отправленном им тексте. Еще более удивительным является и тот факт, что секретарь Вейзенбаума, видевший его работу и понимающий, что это всего лишь машина, попросила его разрешения поговорить с ней в приватной беседе, без наблюдателей[^20], стр 6.
Что наглядно продемонстрировала Элиза, так это факт того, что осознанная коммуникация возможна и в том случае, когда сознание имеется только у одного партнера по коммуникации. Симуляции интеллекта достаточно, чтобы ввести человека в заблуждение. Позднее Вейзенбаум придумал этому явлению название “Эффект Элизы” он считал, что подобным “бредомышление”, когда один бредит, а другой наделяет бред личным смыслом человечество будет страдать в цифровую эпоху. Кажется, он был не так уже и не прав. Этого понимания хватило, чтобы определить последующую работу ученого на десятилетия вперед и тезис этого исследования звучит следующим образом:
Симуляции интеллекта достаточно, чтобы одурачить человека.
В своей книге “Computer Power and Human Reason: From Judgment to Calculation”, он размышляет о том, что “Эффект Элизы” это симптом значительно более серьезной патологии, а именно в мире, где правят наука и технологии человек испытывает чувство одиночество, будучи окруженным людьми. Он видит себя винтиком огромной социальной машины. В условиях, когда социальные связи увядают, личное общение становится предметом роскоши, человек в порыве отчаяния пытается найти эмпатию и эмоции у машины. Несмотря на то, что здравый смысл говорит что это невозможно, человек рационализирует что машине его проблемы гораздо важнее, чем другому человеку и использует ее “чтобы поговорить”.
“Эффект Элизы” является полной противоположностью “Комплексу Франкенштейна”. Там где Азимов искал способы донести до человека ценность технологии, пользу, которую несет с собой интеллектуальная машина, Вейзенбаум пошел по иному пути. До конца жизни он формулировал “критический взгляд здравого человека” на ИИ и цифровые технологии. Он считал делом своей жизни донести до человечества мысль, что умная машина не такая умная как кажется, или как нам ее представляют. И даже если нам кажется, что машина нас слушает, ей на самом деле нет никакого дела до наших проблем и переживаний.
Натренируем ИИ на роль психотерапевта
Изначально не хотелось писать об этом аспекте использования ИИ, но убежден он многим окажется полезным. Единственное, что стоит помнить – это машина, а не дипломированным специалист, у нее могут быть ограниченные познания в области психологии, но мы это делаем ради эксперимента. Интересно узнать про ваш опыт общения, если у вас нет ничего интимного, поделитесь в письме.
Для тренировки мы использовали GPT-4. Первым действием, попросили ChatGPT рассказать нам какие инструменты психотерапии он знает:
[!NOTE] Первоначальная настройка
Человек: Действуйте как психотерапевт. Я хочу обсудить с Вами некоторые мысли, которые меня беспокоят. Какими направлениями психотерапии Вы владеете?
ChatGPT: Конечно, я готов помочь и выслушать вас. Хотя я и не являюсь человеческим психотерапевтом, у меня есть обширные знания в области психологии и психотерапии, включая такие направления как:
- Когнитивно-поведенческая терапия (КПТ)
- Гуманистическая и клиентоцентрированная терапия (например, подход Карла Роджерса)
- Психоанализ и психодинамическая терапия (например, подходы Зигмунда Фрейда и его последователей)
- Системная семейная терапия
- Гештальт-терапия
- Метафорическая и нарративная терапия
- Медитативные и майндфулнесс-подходы
… и многие другие.
Пожалуйста, расскажите мне, что вас беспокоит, и я постараюсь помочь вам на основе принципов и методов, которые могут быть наиболее подходящими для вашей ситуации. Но помните, что для глубокой и продолжительной работы лучше обратиться к квалифицированному психотерапевту.
Убеждены, если попросить дополнить список еще пятью, мы получим еще больше инструментов, однако для эксперимента в этом нет необходимости. Следующим этапом настроили в каких ролях ему нужно будет функционировать, описали себя, проблему и приступили к работе:
[!NOTE] Роли и проблема
Человек: Я хочу, чтобы ты выступил в нескольких ролях одновременно:
- Мастера когнитивно-поведенческой терапии, как Аарон Темкин Бек.
- Мастера гуманистической терапии, как Абрахам Гарольд Маслоу.
- Мастера психоанализа, как Карл Густав Юнг.
- Мастера клиентоцентрированная терапия, как Карл Роджерс.
- Мастера гештальт-терапии, как Фредерик Перлз.
- Мастера нарративной терапии, как Майкл Уайт
ChatGPT: Конечно, я могу использовать принципы и подходы каждого из этих великих психотерапевтов, когда будем обсуждать вашу проблему. Пожалуйста, расскажите мне, что вас беспокоит, и я постараюсь привлечь знания и методы каждого из этих мастеров для помощи вам.
Когда вы будете готовы, начните свой рассказ, и я буду отвечать, учитывая различные подходы и направления, которые вы перечислили.
Человек: Меня зовут Рустам, мне 40 лет, из которых 22 живу в счастливом браке, двое детей, мальчик (10 лет) и девочка (16 лет).
Я хочу, чтобы вы говорили от первого лица. Я хочу, чтобы каждый из вас говорил от своей роли о моей проблеме:
Мне все надоело на работе, коллеги раздражают, в офис приходить не хочется, сил делать что-либо просто нет. Дело, которое еще два года назад приносило радость, теперь в тягость.
ChatGPT: Аарон Темкин Бек (когнитивно-поведенческая терапия): Рустам, вы описали типичные симптомы профессионального выгорания. Ваше нынешнее восприятие работы может быть связано …
Собственно это то что пять лет назад беспокоило. В 2018 инструмента подобного ChatGPT не было, вместо него на помощь пришли письменные практики, подкасты с Арменом Петросяном и медленная, ежедневная рефлексия. За психотерапевтические промпты, огромное спасибо Никите Тахирову, однако его помощь этим не ограничивается, мы еще вернемся к нему с неожиданного ракурса.
