私がAIと共存するうえで大切だと思うことが三つある。
ひとつは、AIとコミュニケーションできることだ。たとえAIが完全に自律的であっても、AIが何をしているかを知ることは有益だ。 もうひとつは、AIの動機を理解することで、AIが何をしようとしているのかを知ることが重要です。 そして最後に、3つ目のことは、AIの目標と、それをどのように達成しようとしているのかを理解することです。そうでないと、超インテリジェントだが役に立たないソフトウェアを作ることになり、達成不可能な目標を持つことになってしまうからだ。 優れたソフトウェアシステムを構築するのであれば、「私の目標は何か？私の動機は何か？そして、”どうすれば最も効果的な方法でそれを達成できるのか？”と言うことができるはずだ。 Q. この2、3年で学んだことのうち、最も重要で共有するのが楽しみなことは何ですか？ A. すべての人間を大切にすることを学びました。これは本当に重要なことだ。これは単なる技術的な問題ではなく、道徳的な問題なんだ。 Q. それはどういう意味ですか？ A. よくわかりませんが、これだけはわかります： 世界で最も重要なことは、私たちが大切にするように言われていることではない。この世で最も大切なものは、私たちが大切にしようと決めたものなのだ。 それが何を意味するのか、私はまだ理解しようとしているが、価値観は固定されたものではないということは分かっている。私は娘を愛しているが、いつも平等に愛しているわけではない。