Объясняя, чем грозит замена всех рабочих на роботов, Стивен Хокинг подчеркнул «слепоту» техники: проблема не в «злобе» технологий, а в том, что в их «глазах» отсутствует понятие личностности.
Космолог: «Среди нас мало людей, кто топчет муравейники и наступает на муравьев со злости, но представьте ситуацию – вы контролируете ГЭС, вырабатывающую электроэнергию. Если вам нужно поднять уровень воды и в результате этого один муравейник будет затоплен, то проблемы утопающих насекомых вас вряд ли будут беспокоить. Давайте не ставить людей на место подобных муравьев».
«Главный риск от развития Искусственных Интеллектов, – продолжает он, – заключается не в их злобе, а в компетенции. Сверхумный ИИ будет очень хорошо справляться с задачами, и если его и наши цели не будут совпадать, у нас будут огромные проблемы».
