Будущее наступило! Электромобили с автоматическим управлением колесят по городам, на войне воюют беспилотники, элементы искусственного интеллекта уже вошли в нашу повседневность и сталкиваются с интеллектом естественным. Нейросети, способные производить различные тексты культуры, используются нами по поводу и без повода с переменным успехом. Мне как филологу это интересно.
ИИ производит тексты (литературные, научные, музыкальные, визуальные и пр.), которые являются механизмом человеческой коммуникации. Проще говоря, тексты обеспечивают возможность общения людей между собой, но внутри процесса появляется посредник, от которого непонятно что можно ожидать. Для чего он там нужен?
Самый очевидный и безобидный вариант – роль проводника. Нейросеть помогает пользователю – подобно тому как Вергилий помогал Данте – исследовать информационные глубины, самостоятельное путешествие по которым может завести в тупик. Проводник этот правда нуждается в контроле, а результаты его поисков – в проверке. По иронии, стремясь создать сверхразум, человечество по недосмотру наделило нейросети изъянами разума человеческого. А потому такие качества, как проверка фактов, точность высказывания, связность речи, не всегда оказываются в приоритете у компьютера. Если попросить нейросеть проанализировать стихотворение Иосифа Бродского, то нет никакой гарантии, что даже приведённые из текста цитаты будут верными. Так, из проводника нейросеть превращается в мистификатора. Коммуникация с Бродским превращается в коммуникацию с фантазмами нейросети.
Фото: Sinitta Leunen / UnsplashВ конце концов, общение с нейросетью может стать и самоцелью. Мы уже знаем примеры того, как общение с очеловеченными компьютерными моделями становится частью повседневной жизни, а порой оно и замещает общение с людьми. Нейросети часто спасают от дефицита человеческого общения, но заменяют ли они реального человека? Общение с нейросетью привлекательно, потому что не требует от нас ровным счётом ничего. Она будет потакать любым желаниям. Мы можем легко представить себе ситуацию, что человек ругается с нейросетью, но вряд ли возможно обратное. Так уж они устроены. В большинстве случаев нейросеть будет зеркалить своего собеседника и предлагать те ответы, которые человек хочет услышать. Может сложиться впечатление, что перед нами идеальный собеседник, который понимает нас лучше самого близкого человека. Об этом говорит широко обсуждаемая история с форума Reddit о распавшемся семилетнем браке, где супруг стал жертвой чата OpenAI, при помощи которого пытался выстроить своё ежедневное расписание. Нейросеть объявила его собственным «мессией», что было воспринято молодым человеком и совершенно не воспринято его супругой.
Почему выбор совершён в пользу компьютера? Потому что он говорит то, что нам приятно, а реальность человеческого общения состоит в том, что мы не всегда получаем то, что хотим. Американский писатель Джонатан Франзен, много рассуждающий о культуре потребления, считает, что современная культура направлена на то, чтобы её продукты нравились человеку (культура лайка). В результате, как пишет Франзен, «мы увидим человека, лишённого целостности, лишённого центра. В патологическом случае он окажется нарциссистом – человеком, который не в силах пережить ущерба своему самоощущению, причиняемого одной только мыслью, что он кому-то не понравился; в результате нарциссист либо уклоняется от общения с людьми, либо доходит в своём желании нравиться до разрушительных для личности крайностей» («Боль – это не смертельно». Речь на церемонии вручения дипломов в Кеньон-колледже, май 2011 года). Прошло более полутора десятка лет с момента написания этого текста. С тех пор кое-что изменилось: теперь можно не стремиться понравиться всем и спасаться от одиночества в общении с нейросетью.
Общение с человеком – вещь более сложная. Оно требует больших усилий и уступок, оно не всегда нам приятно, однако оно даёт человеку то, чего нет у нейросети, – понимание. Джон Сёрл, представитель аналитической философии, в 80-х описал мысленный эксперимент «Китайская комната». Он вообразил себя, находящегося в закрытой комнате. Он не знает ни одного китайского иероглифа, но имеет инструкцию на знакомом ему языке, как пользоваться тем или иным иероглифом. На предложенные вопросы он отвечает по инструкции. Это метафора работы компьютера. Он не понимает, а действует согласно инструкции. Конечно, с тех пор ситуация очень сильно изменилась. Теперь у нас есть очень развитые языковые модели, но ответ, который даёт нейросеть на самый простой человеческий вопрос, всё ещё не является результатом понимания. Для понимания необходим опыт. Индивидуальный человеческий опыт, который делает нас пристрастными, ограничивает нас, формирует точку зрения на вещи, заставляет нас испытывать сильные чувства в одних жизненных ситуациях и не испытывать оных в других жизненных ситуациях, считать что-то прекрасным, а что-то безобразным и т.д. Это то, чего нет у нейросети, зато есть у абсолютно любого человека.
Фото: Resume Genius / UnsplashНаконец, есть ещё одна парадоксальная роль, которую стали играть нейросети, – авторство. Эта роль довольно мнимая, потому что сама по себе сеть ничего не произведёт. Чтобы получить какой-то текст, необходим запрос, который в любом случае должен исходить от человека. Здесь речь идёт скорее о диверсии со стороны человека, который перебрасывает на компьютер функцию творца. Граница между проводником и творцом пролегает всегда в разных местах. Для ученого, который просит чат GPT в научном стиле сформулировать результаты его экспериментов, нейросеть очевидно является помощником. А вот писатель, который просит образно перефразировать его собственный текст, кажется, уже перекладывает свои авторские амбиции на компьютер.
Авторство идёт рука об руку с ответственностью. Текст, написанный компьютером, размывает ответственность человека за высказывание. Ответственность, конечно же, прежде всего этическую, хотя в настоящий момент есть проблемы и в юридическом плане. Если раньше главной в этой области была проблема плагиата, то теперь её место займёт проблема разграничения человеческого и сгенерированного текста. Оставим вопрос о том, нужен ли человечеству текст, сгенерированный компьютером, в стороне. Лучше зададимся вопросом: нужен ли нам текст за авторством Такого-то, который этот текст на самом деле не писал. В плане художественной практики это может быть более или менее удачная мистификация. Что касается нехудожественных форм коммуникации, то могут быть проблемы. Витиеватое поздравление, составленное нейросетью, очень выручит человека, который плохо складывает слова. А дипломные работы, написанные практически или полностью компьютером, профанируют или даже фальсифицируют высшее образование.
Так или иначе тексты ИИ позволяют скрыть нашу человеческую несостоятельность. Такова нынешняя реальность, обратно повернуть нельзя. Научный прогресс назад не отыграешь. Но у нас всегда есть выбор: использовать компьютер в качестве помощника или написать самому, пообщаться с нейросетью или с близким человеком, проверить полученную информацию или довериться сети, сгенерировать текст и выдать за свой или отказаться от этой идеи, ибо о чём не можешь говорить сам, о том следует молчать.
P.S. Текст написан без использования нейросети. Или нет?..
#ИИ #Нейросети #Коммуникация #Общение
