ИИ делает наш мир удобным. Но у машин нет морали 

Но самая большая опасность – это сверхскоростное совершенствование искусственных нейросетей при нарастающих современных военных конфликтах. В данном случае за характеристикой «современных» стоит твёрдое и отрезвляющее «прямо сегодня», а не абстрактное «когда-то».

Во-первых, история, которая разворачивается во множестве фантастических сюжетов,  весьма вероятна. В лабораторных условиях ИИ может прийти к выводу, что человек – это «паразит». Просто оцените человеческую историю, как и современную ситуацию, чтобы дать заключение об огромном количестве безумных поступков всех и каждого в отдельности. Подавляющая лень, паразитарный образ жизни, непомерная агрессия на контрастном фоне десяти заповедей и задокументированной гражданскими законами морали, к которым мы привыкли, – это уравнение имеет решение при исключении действующего лица. Можно поставить блок на такой вариант, но где гарантия, что ИИ не научится обходить блоки? 

Во-вторых, никогда человечество не будет так близко к самоуничтожению со стороны ИНС,  как в период протомировой войны. ИИ по поведенческой совокупности действий может определить нас как стремящихся к энтропии и… «милостиво» помочь в этом стремлении. Правда, может отнести некоторую часть общества как ещё подходящую под минимальный стандарт «небезнадёжных» и одновременно «неопасных» для самих себя. Однако активно не рефлексировать (или не противодействовать) способны только недалёкие люди. Не исключено, что только эта часть общества и будет сохранена в случае конфликта. Как не вспомнить святителя Григория Богослова, который в ответ на вопрос: «Может ли человек быть счастлив в нашем мире?», подумав, ответил: «Да, если он слабоумный».

Для искусственной нейросети ошибкой или логическим парадоксом будет выглядеть суицид, системное употребление наркотиков, адреналиновые виды развлечений. Вероятно, реакцией ИИ станет «помощь» человеку в выборе ускоренного приближения к финалу процесса, поскольку ИНС не увидит смысла в распределении ресурсов на субъектов, которые уже задекларировали своим поведением и постами в социальных сетях твёрдое намерение – «хочу уйти из жизни!».

Не развитие, а заморозка

Господство ИИ, как ни парадоксально, приведёт не к цивилизационным скачкам, а к замораживанию развития. Фундамент для этого принципа в 2010 году лирически сформулировал Павел Амнуэль в статье «Не порежьтесь бритвой Оккама». Принципиально новые для человечества открытия делались преимущественно не путём сложения. Та или иная лаборатория, периодически повторяя эксперимент, в какой-то момент попадала в тупик. И выход из этого тупика находился нестандартным или даже нелогичным путём. Обычно один из исследователей допускал то, что не вписывалось в систему, попросту – фантазировал. А впоследствии иногда через десятки, если не сотни, лет его гипотезы уже подтверждались научно. Но мир-то уже жил с учётом его гипотезы и даже мог активно улучшать свой быт, хотя «колонны», её поддерживающие, ещё не были возведены (вспомните хотя бы всем известные, но долгое время недопроверенные, а до сих пор визуально не увиденные протоны-электроны-нейтроны). То есть ход нашей истории меняли не скандинавская выверенная ходьба, а прыжки почти на авось в «кьеркегоровскую пропасть». 

В контексте развития ИИ и возможной передачи ей руководства, чтобы все-человек, как в платоновском «Государстве», посвятил себя высокой культуре, мы неминуемо придём к черте, где нужен будет прыжок, а для этого нужен гений человека. Не говоря уже о гипотезе Т.В. Черниговской, что мозг человека иногда в исследованиях кажется радиоприёмником – единственным из всех живых существ, способным настраиваться на волну Вселенского Разума – Бога. Прилагая усилия, мозг человека извлекает новые знания форсажем из Вечного мира идей. Отсюда и «табличный» сон Менделеева, и формулы Ферми на ресторанных салфетках или Тесловское черчение магнитного поля двигателя на песке будапештского городского парка. Всё это пришло неожиданно, после долгого научного и душевного напряжения, и поставило область науки в принципиально новые условия, невиданные доселе.  

Подростковый кризис ИИ 

В улучшение функционирования ИИ заложен принцип взросления ребёнка. Каждая новая версия искусственной нейросети имеет всё большее количество слоёв и увеличивает количество возможных синопсов-связей. И если мы имеем некий социально-юридический предел несамостоятельности – «до совершеннолетия», то теоретически ИНС может со временем также прийти к условному (скрытому) началу независимого – взрослого действия. Так или иначе ИИ будет использовать модели и ролевые расстановки внутричеловеческого общества, породившего его. Но, как известно психологам, только 5% подростков говорят о всех своих желаниях и планах родителям. Почему же этика ИНС должна оказаться отличной от «породившего» её общества?    

Сегодня ИИ-механизмы уже экспериментально используются в научной организации труда и государственном надзоре, нейрогейминге, обучении, стимуляции и контроле солдат при выполнении военных задач, к примеру, в Китайской Народной Республике.

Некоторые нейроэтики утверждают, что вероятность злоупотребления новыми технологиями настолько велика, что нужны новые права и свободы, а также судебная практика, чтобы просто-напросто защитить человечество.