Взбунтовавшийся искусственный интеллект, обретший разум (мысли на основе своих программных данных), – частый фантастический сюжет. А теперь почти в каждом телефоне и компьютере есть голосовой помощник, способный поддержать небольшой диалог. Компьютерные программы, которые могут обыграть человека в шахматы – через блеф! А есть манипуляция куда более простая – чувство жалости. Искусственный интеллект научиться умолять – и уже не поможет настройка интернета.
Немецкие ученые провели простой эксперимент: сказали, что необходимо отключить робота, однако робот неожиданно просил не отключать его. В некоторых случаях робот молчал, и люди спокойно отключали его. Но те участники эксперимента, кто услышал просьбу робота, в большинстве заколебались. Некоторые так и не выключили его. На что еще способные нейронные сети? А программист без чувства опасения?
Внешне робот походил на человека, хоть и был механический, – на это, решили ученые, и реагировали люди. У них возникал вопрос: правильно ли я поступаю? Они жалели робота. Третьи, кто в итоге не выключил робота (было их тринадцать человек) ответили, что робот попросил – это единственная причина их поступка. Вот пройдет искусственный интеллект обучение, и…
Что тут скажешь? Людей может погубить как бунт машин, так и обыкновенное сострадание.