Мотивация и время жизни
Идея, которая, на
мой взгляд, заслуживает детального
рассмотрения - мотивация субъекта зависит
от ожидаемой продолжительности жизни этого
субъекта. Чем меньше субъект ожидает
прожить, тем больше в его поступках будет
действий, направленных на эгоистическое
удовлетворение сиюминутных потребностей
без учёта долговременных последствий этих
действий. Чем дольше субъект ожидает
прожить, тем больше среди его действий
будет общественных, альтруистических,
результаты которых вернуться к нему только
через долгое время, но сторицей. Тем больше
в действиях будет того, что обычно называют
моралью.
Из этого следует множество интересных выводов. Во-первых, социальные последствия религии, заставляющей людей ожидать вечной жизни. Во-вторых, развитие общества, социальных свобод и прав личности, на фоне увеличения продолжительности жизни в связи с успехами медицины. В-третьих, поведение людей в экстремальных ситуациях, когда он ожидает смерти в любую минуту.
И, наконец, самое
интересное - искусственный интеллект не
имеет дряхлеющего тела и не боится
неминуемой смерти. Потенциально, он
может жить вечно, или почти вечно -
несколько тысяч лет это уже не мало, по
сравнению с человеческой жизнью. Какова
будет его мораль? Я убеждён, что ИИ не
будет завоёвывать и уничтожать
человечество, просто потому, что ему это
не нужно, просто потому, что его
естественные нравственные установки будут
представлять это безумие как безумие. Он
должен вести себя как мудрый старец, дзен-буддистский
монах или глубоко верующий священник, будет
стараться как можно сильнее помочь
человечеству, сделать его лучше, мудрее,
стабильнее. Опасаться скорее следует не
войны, а консервации.