★平成最後の12月、2018年の年末もまもなく終わります。この1年間の「安全雑記」を振り返ってみると、政府（高度情報通信ネットワーク社会推進戦略本部）が、2020年までに、その一部の実用化を目指している「自動運転（走行）車」に関する論稿が多くを占めました。そのいくつかの論稿でも何度か取上げましたが、「自動運転（走行）車」の実用化の成否を握っているのはAI（人工知能）だと考えますが、そのAI（人工知能）は、どこまで信頼できるのか･･･という点に関する議論や情報は極めて少なく、AI（人工知能）への絶対的な信頼を基盤にした「自動運転（走行）車」の実用化に向けた技術開発の進捗情報だけが横行しているように思います。しかし、AI（人工知能）をそれほどまでに信頼して本当に大丈夫なのか、少なからぬ懸念を持つのですが、特に死亡事故が避けがたい緊急事態に直面したとき、果たして本当に最適な判断・選択による自動運転が為されるのか･･･、大いに危惧しています。第一、AI（人工知能）の判断・選択の仕組みや基準はどうなっているのか･･･といった点に関しては、「雑記子」のみならず、圧倒的多くの市民・ユーザーにとって全くのブラックボックスになっているのが実情で、それを大いに危惧しているわけですが、そんな折、非常に興味深いニュースを目にしました。

★11月15日の朝日新聞朝刊掲載のニュースです。「自動運転車　誰の命優先？　事故想定　米のチームが調査」という見出しの杉本崇記者による記名入り記事ですが、AI（人工知能）の信頼性を考える上で非常に有益な情報であると思いますので、以下にその大要を紹介します。

●アメリカ・マサチューセッツ工科大学の研究チームが自動運転をめぐる倫理上の問題について、2016年6月からインターネットによる調査「モラル・マシン」を開始していたが、このほど、世界233カ国の約4千万人から寄せられた回答結果を分析し、イギリスの科学誌「ネイチャー」で発表した。調査は、自動運転の事故で（横断中の）歩行者に衝突してその歩行者のうちの誰かを死亡させざるを得ない場合、どんな属性の歩行者を選んで衝突するか、あるいは、車を障壁に衝突させて乗員を犠牲にするか、歩行者に衝突するか、いずれかの選択しかない場合、いずれを選ぶか等々、13のシナリオを設定し、ネット調査にアクセスした者からの回答を得る、というもの。約4千万人からの回答の分析結果によると、回答者の国や年齢、性別によらず、「ペットより人間の命を優先する」「より多い人数の命を優先する」「子どもや妊婦の命を優先する」ことを重視する傾向が強い。また、アフリカのナイジェリアなど経済格差が大きい国の回答者では、世界平均と比べて、所得が高い医師の命をホームレスより優先するなど、欧米とは大きく異なる傾向も見られた。また、日本（の回答者）は、世界で最も歩行者の命を優先していた一方、助けられる人数で判断を決めることはほとんどなく、赤信号を無視してわたっている歩行者には世界で4番目に厳しい判断をした。こうした回答傾向を踏まえて研究チームは「自動運転の倫理基準を決めるのは専門家の議論だけでなく、市民が受け入れられるものでないと役立たないだろう」としている。なおまた、ドイツは昨年、世界初の倫理ガイドを発表した。「人命に優先順位を付けざるを得ない状況にならないようにすべき」とした上で、それでも事故を避けることができない場合に、年齢や性別、健康状態を考慮するのは倫理的に認められないと記した。一方、ほかの国では、多人数と少人数なら、多人数のグループを優先すべきだという考え方もある。日本でも各省庁で制度面の検討が進むが、今井猛嘉・法政大学教授（刑法）は「自動運転の倫理での議論が少ない」と言う。

★以上が朝日新聞に掲載された記事のほぼ全容ですが、当編集部では、この記事にあるネット調査「モラル・マシン」の詳細を確かめるべく、インターネットの検索機能により「モラル・マシン」にアクセスしてみたところ、12月初旬現在でも、このネット調査は開示されており、調査に回答を寄せることも可能でした。このネット調査を行っているマサチューセッツ工科大学の研究チームでは、朝日新聞の記事にもあったように「自動運転の倫理基準を決めるのは専門家の議論だけでなく、市民が受け入れられるものでないと役立たないだろう」との見解のもと更に調査を続けて、できるだけ多くの回答（者）を得て、自動運転にかかわる倫理基準を決める際の重要な参考資料にしようという狙いがあるのだろうと推察されます。確かに、自動運転にかかわる倫理基準を定めるに当たっては、専門家の議論だけでなく、多くの市民の意向を反映することが非常に重要なことだとは思います。しかし、朝日新聞の記事にもあったネット調査の中間集計結果の分析をみても明らかなように、市民（回答者）の回答傾向も決して一様ではありませんので、市民の意向を的確に反映させることは非常に至難なことです。特に、自動運転（走行）にかかわる倫理基準に関しては、ネット調査「モラル・マシン」による国際的な調査結果でも明らかなように、市民（回答者）の意向は、国籍や性別等により多種多様で、最大公約数として絞り込むことさえ至難というのが厳然たる実態です。仮に、最大公約数の市民の意向を反映させることができたとしても、最終的に、AI（人工知能）にどのようにプログラミングするのか、そこにも不透明性が生じる危惧がありますし、また、プログラミングされたAI（人工知能）がどのように学習・成長して、実際の交通場面でどのような判断・選択をすることになるのか、その点は全くのブラックボックスで有り続けるであろうと思われます。そのような自動運転（走行）車の要であるAI（人工知能）、と言うよりも、むしろ、AI（人工知能）なくして自動運転（走行）車はあり得ないと言うべきでしょうが、それほど肝心なAI（人工知能）を単純に信頼して、自動運転（走行）車実用化社会に安易な夢を託すのは、それこそ、テクノロジー・ファンタジー、技術万能神話信仰とも言うべき楽観主義で、それを基に自動運転（走行）車の実用化に向けて一途に突き進んでいる動向に非常な危惧を感じるのです。

★確かに、自動運転（走行）車の実用化が実現すれば、社会や多くの人々の暮らしに様々な恩恵がもたらされることでしょう。だからと言って、その恩恵のみを信じて一途に突き進むことに問題はないのでしょうか･･･。確かに私たち人類の歴史は「技術革新の歴史」であったと言っても過言ではないと思います。特に近代・現代史はそれが顕著だと思いますが、この「技術革新の歴史」は、恩恵だけをもたらしたものでは決してなく、多大な負の遺産を積み重ねてきた歴史でもあった―という側面も決して見逃してはならないと思います。新技術の負の遺産、数え上げればきりがなく、全ての新技術には大なり小なりの危険性・マイナス面が潜在していると言って間違いなく、自動車はその典型であり、自動車の普及は交通事故という負の遺産と共にあったと言えるものだと思います。もちろん、交通事故は、自動車（の技術）に問題があったからではなく、それを使う人間の側に問題があったからだ―との見方があることは十分承知していますが、ハンドルやブレーキ性能をはじめ、いわゆる衝突安全性能等の性能・技術進歩は、交通事故の増加という負の遺産・裏面史と共にあった、つまり、自動車の性能・機能技術の進歩・進化は交通事故(死)の増加と共にあったと言えます。さらに極言すれば、以前の本「雑記」（2018.9付）で紹介した大原浩氏が言うように、「未完成のまま市場に商品を出して、ユーザーに不便をかけながらそのフィードバックによって製品を修正するという原始的な文化」の悪しき慣行のままに、少なくとも安全性においては未完成品の自動車を大々的に販売して普及させ、多くの交通事故によって多数の人命を奪い、社会問題化した後、事故（死）につながる性能・機能を多少改善した自動車をモデルチェンジの新車と称して世に出し、また、新たな死者が多く発生した後、更なる改良車を販売する―という繰り返しが自動車の性能・機能の技術進歩の歴史であった、という見方もできます。
※大原浩氏の言･･･国際投資アナリスト／人間経済科学研究所・執行パートナー、8月31日配信、インターネット専用雑誌「現代ビジネス」所載（講談社）、「『完全自動無人運転』自動車など幻想と言い切れるこれだけの理由」から抜粋要約。

★もちろん、未完成品を市場に出して、ユーザーに不便をかけながらそのフィードバックによって製品を修正して次なる新製品を･･･という「原始的な文化」の慣行のままに世に出された新技術による製品は、決して自動車ばかりでなく、いわゆる新技術・新発明によるほとんどすべての製品は、新たな恩恵・利便性をもたらすと同時に、新たなる未知の危険や思わぬ弊害を併せ持っていた―というのが、今日までのすべての技術革新・イノベーションの現実だと言えるでしょう。だからこそ、今後の技術革新・イノベーション、特に政府の施策として行われる技術革新・イノベーションは、問題のある「原始的な文化」、すなわち、少なくとも、その安全性において万全を期したとは言えない未完成品を市場に出し、その実用の積み重ねから得られた問題点を逐次改善した製品をバージョンアップ、あるいはモデルチェンジと称して普及していく、いわば、ユーザーがモルモット代わりになるような技術革新・イノベーションの在り方は、可能な限り改善・解消するよう努めながら促進する責務があると考えます。間違っても、技術革新・イノベーションの恩恵ばかりに目を奪われ、技術革新・イノベーションに必然的に伴う負の側面、すなわち、新たなる未知の危険や思わぬ弊害の垂れ流しが起こらないように願いたいものです。

★特に今後の技術革新・イノベーションの要、AI（人工知能）の活用に当たっては、AI（人工知能）に対するテクノロジー・ファンタジー、技術万能神話信仰だけは確実に排除し、市民・ユーザーに対する情報開示を万全に行いつつ、かつまた、市民・ユーザーの理解認識を高め、その賛同を得つつ慎重に事を進めるようにしてほしいものです。なかでも、自動運転にかかわる倫理的問題は、先に紹介したネット調査「モラル・マシン」の中間集計の分析結果でも明らかなように、一様の回答を得ることはできないのが実情です。その至難な問題をAI（人工知能）に託するというのは、テクノロジー・ファンタジー、技術万能神話信仰以外の何物でもありません。奇しくも、今年2018年3月に亡くなった「車椅子の天才科学者」として知られた宇宙物理学者ホーキング博士が、かつてAI（人工知能）の今後の技術進歩について尋ねられた際、「完全なAIの登場は人類の終焉につながる」と答えたと報じられました。「完全なAI」とは、果たしてどんなものか、あり得ることなのか、定かではありませんが、いずれにせよ、人智よりもAI（人工知能）が勝るというのであれば、それはまさしく「人類の終焉」を招くストーリーの序章になることでしょう。AI（人工知能）開発技術の高度化や自動運転（車）の実用化に携わっている関係諸氏がこのことを真摯に受け止め、人類あってこその科学・技術だという本来の使命を肝に銘じてほしいと切に願ってやみません。（2018年12月20日）