Покупая билет, стратег спросил ChatGPT, нужна ли австралийцу виза в Чили. Не нужна, ответил чат-бот. Когда Поллард осознал, что обманут, то спросил своего цифрового горе-помощника о возможности подачи иска по поводу предоставления некорректных данных против OpenAl – создателей ChatGPT в 2022 году. И получил ответ: юридические претензии невозможны. В каждой шутке есть только доля шутки. И ситуация с Поллардом это проекция на наше будущее. Не просто так стратег попался в ловушку нейросети.
Недавно Tехнологический институт MIT опубликовал исследование о влиянии ChatGPT на критическое мышление. 54 человека были поделены на три группы. Их попросили написать небольшое сочинение. Одни писали сами, другим разрешили гуглить, третьи – при помощи ChatGPT. Качество сочинений, созданных ChatGPT, преподаватели нашли наихудшим – тексты получились безликими. При этом в течение всего времени написания эссе учёные следили за мозговой активностью испытуемых при помощи электроэнцефалографии. Оказалось, что те, кто писал сам, использовали мозг на максимум, у них лучше работали отделы, отвечающие за креативность и обработку информации. У обращающихся к Google мозг напрягался заметно активнее, чем у тех, кто сгенерировал эссе чат-ботом. А самое интересное выяснилось, когда участников эксперимента попросили переписать свои эссе по памяти. GPT-группа вообще с трудом помнила, о чём было их сочинение. «Задача была выполнена быстро и удобно. Но в памяти ничего не осталось», – подвела итог автор исследования Наталия Космына. А это значит, что нейросети отупляют человека.
Марк Поллард. Фото: markpollard.netЭти выводы так или иначе подтверждает и исследование Microsoft и Университета Карнеги–Меллона (США). В эксперименте приняли участие 319 человек. Учёные пришли к выводу: да, к сожалению, отупление происходит. Почему? Во-первых, люди, использующие нейросети, перестали развивать свои когнитивные способности, они полагались на искусственный ум, не используя свои навыки высшего порядка. «Если люди начинают размышлять только тогда, когда ответы ИИ недостаточны, они лишаются рутинных возможностей практиковать своё суждение. Это оставляет их неподготовленными, когда возникают исключительные ситуации», – объяснили авторы исследования. К слову, об этом писал ещё Джордано Бруно почти 500 лет назад, но он судил резче: «Человек бывает человеком только благодаря размышлению». Во-вторых, исследование показало, что чрезмерное доверие к ИИ ослабляет способность людей самостоятельно решать проблемы. Генеративный ИИ делает людей глупее, делают вывод авторы. Чрезмерная зависимость от таких инструментов может ослабить способность к самостоятельному решению проблем. Но на этом учёные не останавливаются и дают советы. «Чтобы снизить риски влияния нейросетей на наш мозг, пользователи должны понимать ограничения ИИ, активно практиковать критическое мышление при работе с результатами ИИ и использовать ИИ как инструмент поддержки, а не замену собственных когнитивных процессов». Советы прекрасны, но только 36% участников того эксперимента проверяли информацию ChatGPT. И кажется, что в реальности эта цифра ещё меньше. Посудите сами: человек обращается к ИИ, потому что ему лень думать или жаль на это времени. Неужели он вдруг захочет трудиться – проверять? Ведь проверять чаще всего сложнее и дольше, чем дойти до результата своей головой.
Мозгов у людей стало меньше
Сейчас много выходит исследований, как ИИ влияет на наш мозг. Нейросети – явление новое, пугающее. Первые научные итоги тревожны, хотя никто не берётся утверждать их истинность. В конце каждого труда есть приписка: это суждение не окончательное, и вообще необходимо масштабное всестороннее изучение. Тем не менее нейросети уже вовсю применяют в бизнесе, медицине, образовании – везде, не обращая внимания на предупреждения учёных. Что это за предупреждения?
Фото: Solen Feyissa / UnsplashИсследователи Университета Пенсильвании в прошлом году сравнили результаты тестов по математике у тысячи турецких школьников. Половина детей готовилась к тесту самостоятельно, другие – при помощи ИИ. В итоге те, кого обучали нейросети, успели решить намного больше заданий (на 48–127%), но качество хромало. Количество правильных ответов было на 17% меньше, чем у ребят, готовившихся по классическим методикам. Авторы исследования заключили, что переход на телеобразование приведёт к тому, что обучаемые не поймут основополагающие явления и процессы, что в итоге приведёт к поверхностным знаниям.
С этим выводом можно спорить, например, аргументами из другого прошлогоднего исследования ученых из Университета Нью-Йорка в Тиране, Университета Пенсильвании и Казахстанско-британского технического университета «Риски обучения при помощи ИИ для критического мышления учащихся». В этой работе изучались 53 студента из нескольких вузов Албании. И последовал вывод, что нет существенной разницы в критическом мышлении у разных групп молодых людей. Использующие ИИ даже лучше успевали по разным предметам. Но здесь много вопросов и к критериям оценки знаний в вузах, и к тому, можно ли «испортить» чат-ботом уже сформировавшуюся у студентов привычку критически мыслить. Учёные делали выводы очень осторожно, отметив, что «необходима сбалансированная интеграция инструментов ИИ в образование, они не могут заменить традиционные методы обучения – лишь дополнить».
Фото: JESHOOTS.COM / UnsplashВ глубине души мы догадываемся, что появление искусственного разума – настолько серьёзный технологический рывок человечества, что он станет двигателем эволюции человека. Эта мысль популярна, и даже уже есть первые научные результаты. Учёный Чикагского университета Роберт Брукс опубликовал статью «Как искусственный интеллект может повлиять на эволюцию человека?». С многочисленными оговорками он сделал такой прогноз: «Тенденции – к уменьшению мозга человека, естественному отбору по продолжительности концентрации внимания, типам личности и восприимчивости к расстройствам настроения». По его словам, приложения ИИ уже играют роль друзей и близких, что, «вероятно, уже влияет на успешность спаривания и эволюцию социального поведения».
Вывод о грядущем уменьшении мозга может напугать больше всего, но как раз он – самый безобидный. Так, старший преподаватель кафедры палеонтологии и эволюционной биологии Университета Бата (Великобритания) Николас Лонгрич в научном труде отметил, что мозг Homo Sapience начал уменьшаться не сегодня. «В Европе максимальный размер мозга наблюдался 10 000–20 000 лет назад, как раз перед тем, как было изобретено сельское хозяйство, – говорит Лонгрич. – Потом мозгов у людей стало меньше. У современных людей мозг меньше, чем у наших древних предшественников или даже у средневековых людей. Непонятно, почему». Может быть, современная относительно безопасная жизнь требует меньше умственных способностей, ведь нам не нужно уметь охотиться, выслеживать, искать лечебные травы и яды, отслеживать животных и траектории, «быть хитрее львов и антилоп или запоминать каждое фруктовое дерево в пределах 1000 квадратных километров». Впрочем, мы уже знаем, что размер мозга не влияет на интеллектуальные способности. Да и люди всегда были склонны невысоко ценить умственные способности человечества. По Декарту, «у большинства людей ум остается запущенной почвой почти в течение всей жизни».
Фото: Robina Weermeijer / UnsplashДругое дело – изменения социальных связей в обществе, которые диктуют нейросети и которые повлияют на каждого. И поставят всю человеческую цивилизацию перед экзистенциальными вопросами. Каким станет человек, если его начнёт воспитывать не вся деревня, как 100–200 лет назад, и не семья и общество, как это происходит сейчас, а Алисы и чат-боты? По каким признакам люди будут искать себе пару, если станет намного меньше случайных встреч и очного наблюдения за людьми? Как изменится наша речь, сознание, тело? А вызовы, связанные с государственной безопасностью? «Мне кажется, нынешняя ситуация с ИИ напоминает ту, которая сложилась после того, как при самом активном участии учёных в невероятной гонке было создано атомное оружие, – считает Игорь Пивоваров, главный аналитик центра прикладных систем искусственного интеллекта МФТИ. – Когда были продемонстрированы возможности атомного оружия, учёные первыми стали думать, как оставить его в арсеналах, обеспечить его неприменение. В итоге было создано МАГАТЭ, которое контролирует многие вопросы в атомной сфере. Между странами подписаны важнейшие документы, где они берут на себя обязательства по неприменению и нераспространению такого оружия».
Искусственный интеллект продолжает бросать вызовы. И думается, одним из выходов может стать развитие гуманитарных наук. Что есть человек? Ещё Гераклит говорил: «Умный человек не тот, кто много знает, а тот, кто знает самого себя». И похоже, сейчас очередная попытка ответить на этот вопрос станет важнейшей в определении места ИИ в нашей жизни.
