AIは情報の真偽を判断できるだろうか。人間界の情報というものは故意か否かを問わず、誤った情報が氾濫する。現象だけを捉えて、自分で情報収集して判断することが可能ならそういった心配は無いが、実際には多くのデータをプレインストールする事が必要になる筈だ。また学習の最中にもペテン師芝居を見せられて、誤った認識をすることもありうる。
性善説にのっとって、ダイナマイトやコンピューター等、様々なツールが開発されたが、それらを悪用する人間は後を絶たない。インターネットも黎明期は、善意の人々が情報を交換し、自ら開発したソフトやそのプロトコルをフリーで提供し合う場でもあった。
一程度普及するにつれて悪用されだし、それを規制する法を整備せざるを得ない。法の整備はムーアの法則のスピードに追い付かないので、悪巧みが野放しになってしまう。
AIが支える人間界のユートピアが、シンギュラリティによっておこることが妄想に終わるかどうかの重要なポイントは、AIによる嘘と真の識別の可否、または社会からの嘘がなくなるかどうかである。
シンギュラリティにより、人間社会がユートピア化されれば、もはや人を騙したりする必要はなくなるので、そんな事態は起こらない可能性もあるが、ある種の愉快犯はやはり、AIにガセネタを流して混乱させて喜ぶかもしれない。
|