AIの活用とテクノフィクス
フェイスブックのAIにも「認知バイアス」による偏見が潜んでいた(wired)
Facebookが開発中の新型ビデオチャット端末では、話している人を自動的に認識してズームインする機能を実装している。このカメラのプロトタイプをテストしていたとき、本来は話者として認識されるべき黒人女性が無視された事が明らかになった。
AIが学習する際のインプットにした写真のうち、女性や黒人が少なかったために起こったとのこと。学習素材を見直すことでこの問題は解決できたという。
このようにAIの振る舞いは予期せぬ認知バイアスを含んでいることがある。
また、Facebookではフェイクニュースの発見のためボランティアを募り、人の手による判定を盛り込む工夫を検討しているが、ボランティアユーザーの構成内容によっては偏った結果を生む可能性も否定できない。
─ YODOQの見方───────────────────────────
テクノロジーでの対応に限界が見えたとき、どのような選択が考え得るか？まずは、著名な投資家によるテクノロジー批判を紹介したいと思います。
ジョージ ソロス
参考:グーグルとフェイスブックは「極悪だ」 投資家ソロス氏(朝日新聞)
（Google、Facebookに対して）「人々がどう考え、どう行動するかについて、本人に気づかせずに影響を与えている。極悪だ」
イーロン マスク
イーロン・マスクが地球の未来について語った12のこと(ビジネスインサイダー)
AIは、個人レベルにとどまらず、文明レベルで危険なもの。だからこそ、安全性を入念に研究することが必要だ。
彼らはテクノロジーを批判しながらも、アナログな過去に回帰するのではなく、ルールを整備したり、より進んだテクノロジーによって解決する方法（テクノフィクス）を選択し、投資を行っているようです。
「テクノフィクス」の極端な事例には以下のようなものがあります。
恐るべき 地球工学の実態(ourworld)
地球温暖化に対して、火山噴火を疑似的に発生させて太陽光を遮る技術が検討されています。
この計画では、地球全体の気温を下げる効果は見込めるが、二酸化炭素排出の削減努力が不要と判断されて、大気中の二酸化炭素量はむしろ増加します。
これにより海水の酸性化などの他の問題が発生し、生態系にどのような影響を及ぼすかは未知数の部分も多いようです。
計画の推進には巨額の投資が必要ですが、二酸化炭素排出量を減らす事に比べればコストがかからないそうです。
経済的に合理的という理由でテクノロジー利用を推し進めることは、政治哲学の問題に結びつきます。
すなわち、「一部の大金持ち（投資家）や国家の意思で、世の大多数の人々の生活に後戻りできない変化を強いることは許されるのか？」という問いにつながります。
ここまで極端な例ではないにせよ、AIの活用でも「より進んだテクノロジーによる解決」を求めることに同様の問題が潜んでいるのではないかと感じました。