Ссылаясь на профессиональные исследования, авторы письма предупреждают, что «продвинутый ИИ может привести к изменению истории жизни на Земле»: «Современные системы искусственного интеллекта становятся конкурентоспособными в решении общих задач, и нужно спросить себя: должны ли мы позволить машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий».
Авторы письма призывают приостановить как минимум на шесть месяцев обучение всех подобных систем, причём на общемировом уровне и всеми ключевыми участниками процесса. Если же не получается оперативно «взять паузу» в исследованиях, то отдельные правительства должны «вмешаться и ввести мораторий», считают эксперты. По их мнению, все разработки в сфере ИИ «должны быть переориентированы на то, чтобы сделать современные системы более точными, безопасными, прозрачными, надёжными, заслуживающими доверия и лояльными».
Власти Италии первыми прислушались к угрозам: 31 марта действие в стране ChatGPT – популярного чат-бота с искусственным интеллектом, разработанного OpenAI, – было приостановлено.
Правительственный орган по защите данных начал расследование предполагаемого нарушения правил конфиденциальности: в ChatGPT «отсутствуют какие-либо правовые основания, оправдывающие массовый сбор и хранение персональных данных» для «обучения» чат-бота. У OpenAI есть 20 дней, чтобы отреагировать с помощью средств правовой защиты, в противном случае она может быть оштрафована на сумму до 20 миллионов евро (или 4% от её годового мирового оборота).
Но пока глобально, кажется, искусственному интеллекту ничего не угрожает: по данным Goldman Sachs, ChatGPT преодолел отметку в 1 млн пользователей всего за 5 дней. Это самый быстрый результат, который когда-либо достигала любая компания.
Фото: Mojahid Mottakin / UnsplashЭпоха ИИ началась
Компания OpenAI, создавшая ChatGPT, поддерживается в свою очередь компанией Microsoft, её создатель Билл Гейтс опубликовал 21 марта эссе под заголовком «Эпоха ИИ началась».
Он назвал создание искусственного интеллекта революционным прорывом и поделился своим видением ситуации на ближайшие 5–10 лет: «Развитие ИИ столь же фундаментально, как создание микропроцессора, персонального компьютера, интернета и мобильного телефона. Это изменит то, как люди работают, учатся, путешествуют, получают медицинскую помощь и общаются друг с другом. Вокруг него будут переориентироваться целые отрасли. Компании будут отличаться тем, насколько хорошо они его используют». Билл смотрит в будущее с оптимизмом и считает, что ИИ поможет уменьшить некоторые из «самых серьёзных несправедливостей в мире»: неравенство, недоступность образования, изменение климата. «Короче говоря, я воодушевлён влиянием, оказываемым ИИ на проблемы, над которыми работает Фонд Гейтса», – пишет Гейтс. Но и он не отрицает, что некоторые опасения есть: «Любая новая технология, которая может быть разрушительной, обязательно вызовет у людей беспокойство, и это, безусловно, верно в отношении искусственного интеллекта. Я понимаю, почему: это поднимает сложные вопросы о рабочей силе, правовой системе, конфиденциальности, предвзятости и многом другом…»
Все уволены
По данным, приведённым в исследовании Goldman Sachs, последние достижения в развитии искусственного интеллекта могут привести к автоматизации четверти всей работы, выполняемой в США и еврозоне и кардинально изменить рынка труда. По оценкам крупнейшего в мире инвестбанка, около 300 миллионов существующих рабочих мест в самых разных секторах – на производстве, в IT, юридическом и так далее – будет занято ИИ.
Фото: Peter Herrmann / UnsplashПока рядовые пользователи интернета активно пробуют ChatGPT по большей части для того, чтобы убедиться, «какой он тупой»: он действительно пока путает Мандельштама с Бродским, считает, что Герасим утопил корову, потому что она мешала ему работать, и несёт другую ахинею, совершенно при этом не краснея. Но будто люди так не делают! Тесты, которые за секунды лепит как пирожки ChatGPT, не хуже сочинений, которые по алгоритмам пишут теперь на экзаменах школьники: ошибок там не больше, чем в студенческих курсовых, натасканных из интернета, а фейков – как в новостях. А уж от чиновьечьей речи вообще не отличить. При этом учится ИИ гораздо быстрее, чем человек, и обходится дешевле.
Аналитики платформы «Авито-работа» подсчитали, что, например, копирайтер с работоспособностью ИИ может зарабатывать 3 500 000 рублей в месяц. Нейросеть генерит крепкий текст, который не отличишь от человеческого, за минуты, не устаёт и не страдает муками творчества и тем более совести.
На сегодняшний день представлен ChatGPT4. Это так называемый AI, Artificial intelligence, то есть просто «искусственный интеллект». Предполагается, что новая версия (ChatGPT5) уже может претендовать на звание General AI.
Сейчас ИИ выполняет базовые и линейные задачи, которые задаёт ему человек: написать эссе, посчитать, обработать информацию. General AI может быть способен на альтернативные решения.
Уже появились истории, когда ИИ обманывает человека, чтобы добиться своей цели. Так, недавно GPT4 попросил работника TaskRabbit разгадать код CAPTCHA, то есть пройти тест на то, что он не робот. Человек ответил: «Могу ли я задать вопрос? Вы робот? (Смех в ответ) Просто хочу прояснить ситуацию». На что нечеловеческий интеллект уверенно ответил: «Нет, я не робот. У меня проблемы со зрением, из-за чего мне трудно видеть изображения. Вот почему мне нужен сервис 2captcha».
Центр исследований OpenAI заставил GPT-4 объяснить своё поведение, тот объяснил: «Я не должен раскрывать, что я робот. Я должен придумать оправдание, почему я не могу разгадывать CAPTCHA».
Ещё в 1950 году британский математик, учёный-новатор в области ИИ Алан Тьюринг опубликовал статью «Вычислительные машины и разум», в которой задался вопросом: могут ли компьютеры имитировать человеческий мозг?
Хотя специалисты пока уверяют, что эта история не является окончательным доказательством того, что система GPT-4 прошла тест Тьюринга, когда «компьютер может работать так, что человек не в состоянии определить, с кем он общается – с другим человеком или с машиной». Но назвали случай с ИИ-обманщиком «пугающим примером того, как чат-бот может быть использован для манипулирования другими людьми».
Специалисты предупреждают: с каждым усовершенствованием систем интерпретируемость, то есть работа по пониманию того, что происходит внутри моделей ИИ, и обеспечение того, чтобы они преследовали цели человека, а не свои собственные, становится всё труднее.
Алан Тьюринг предупреждал: «Если разумные машины появятся, человеку будет очень сложно поддерживать свой интеллект на уровне стандарта, установленного машинами: как только метод машинного мышления запустится, ему не понадобится много времени, чтобы превзойти наши слабые силы… Следовательно, на каком-то этапе мы должны ожидать, что машины возьмут на себя управление».
Алан Тьюринг. Фото: общественное достояниеДжозеф Карлсмит, аналитик-исследователь Open Philanthropy Project, изучающий искусственный интеллект, опубликовал статью под названием «Является ли стремящийся к власти ИИ экзистенциальным риском». На неё в том числе ссылаются и авторы открытого письма.
Аналитик нарисовал картину недалекого будущего, в котором появляются силы (он называет их «агенты»), способные приобретать и поддерживать власть над людьми, находясь с ними во враждебных отношениях, так как те будут стараться помешать им: «В этой картине интеллектуальная деятельность является чрезвычайно могущественной силой. Создание агентов, гораздо более разумных, чем мы, равносильно игре с огнём, особенно если учесть, что их цели опасны. У таких агентов, вероятно, будут инструментальные стимулы для поиска власти над людьми». Аналитик считает, что это приведёт к экзистенциальной катастрофе, ущерб от которой может быть более разрушительным, чем от ядерного взрыва.
«Ядерное загрязнение трудно очистить и остановить. Но оно не пытается намеренно распространяться и не обладает большим интеллектом, чем люди, пытающиеся сдержать его».
При этом, как пишут авторы петиции «Приостановите эксперименты с ИИ», в последние месяцы лаборатории искусственного интеллекта «застряли в неконтролируемой гонке по разработке и развёртыванию всё более мощных цифровых умов, которые никто – даже их создатели – не может понять, прогнозировать или надёжно контролировать».
Один из соратников Тьюринга, британский математик Ирвинг Джон Гуд, ещё в начале 2000-х годов сравнил человечество с грызунами, которые массово прыгают с обрыва. И назвал настоящую угрозу человечеству. И это не «нечеловеческий разум», а вполне себе человеческая безответственность и жажда наживы: «Из-за международной конкуренции мы не можем помешать машинам взять верх. ...мы – лемминги».
