今回はAIと倫理感道徳感について解説をしたいと思いますAIによって私たちの倫理感や道徳感というのが一体どういうものなのかということを改めてこう考えさせられるというまAIによっての我々の
生態系というのがより明確になっていくといったようなことからじゃ次のAIはまどのような困難どのようなテーマというのがあるのか課題があるのかという観点で話をしてみたいと思いますえ今もう生成AI
を始めいろんなところでAIが使われるようになり実用的なものがたくさん出てきてますのでもうすでにそれによって色々便利になりその影響を受けている人々というのは多いかなと思いますが今のこのま
AIのこの軍用画境な状態チャットGPTだとかあクラウドだとか本当にこう次から次にこう新しいものが出てきてはそれによってこの性能の差というのがベンチマークが簡単にこう比較されて性能がいい
方に一気にユーザーが流れるみたいなあ本当にまシビアな競争に今突入しているかなとは思いますがそれによって競争があ適に行われることによってま急激にえこのAIの領域というのが社会で適用できる
実用的であるというところにまで一気に飛躍したかなと思ってますこれは当面まだまだ続くでしょうしえこれ自体はま止められないとは思い[音楽]
ます今回AIとま倫理官道徳感というテーマを選んだ理由ですけれども今個人に対してはAIというものを個人対話型でやるような生成AIGPTみたいなものに関してはどんどん普及していくでしょうし
性能がどんどん上がり便利になり一個人を凌ぐようなアウトプットを出すっていうのはこれから先もまだまだ良くなっていくと思いますで問題はそれを社会全体に適用しようとした時に道徳感倫理感というもの
で衝突をしてえ人々がそのAIが出した結果を受け入れない拒否するということが起こるんじゃないかなという予測をしていますこれはあの西洋的な価値観や倫理感を中心とした今のAIと人間が営んでいる
この社会的な文脈の考慮した人間の営みえここが衝突するんじゃないかということでま授業の考え方をそのAIに取り込んだ方がいいんじゃないかといったことを提案しているま論文があったんですねえこれはま
韓国のあの研究でえ韓国語で書かれたあの論文なんですけれどもま面白いなと思いましてそれからさらに色々調べたり考えたりたんですけれども西洋的な価値観っていうのはまずどういうものかと言いますと
ま個人主義個人がいい結果を出すそれが最終的に全体としてもいい結果になるだろうというなので全体というのは個人の相和であって社会全体が何か判断をする場合でも社会全体として利益が出るものは
最大多数の最大幸福といった形でえその最もその集団の中で恩恵を受けられる人たちが多くかつその人たちに利益があれば社会全体の相場としての利益は多いはずだとまいったあ考え方ですねま単純な足算を
すれば利益の相場というのがが出せるでしょうなので個人の利益を最大化していけばその社会全体の利益も最大化されるはずだといった考え方ですねえあとはその特定の行為やその結果を焦点を当ててま
測定してえインプットに対してアウトプットどうだったのか要は投資に対してどれぐらいリターンがあったのかそういったことをま最も優先して判断していく計算していくという側面がありますて
あとは普遍主義と言って状況だとかそのシチュエーションごとに色々考えを変えるというよりはどんな時でも適用できる普遍的な法則とか普遍的な原則なるべく重視しましょうとなので場面とか
シチュエーションごとに色々ルールを変えるよりも1つ大きいルールを決めてしまってどんな時でも基本的にはこの原則でいきましょうこの道徳規範で行きましょう言ったことを考えがちなのが西洋
主義ですねなのでえ西洋主義的な価値観の中だとよく聞くのがプリンシプルとかディシプリンとかこれはま原則だとかまルール規則だとかまそういったことを指すものですけれどもそれに対して助教的と
いうのは西洋がま個人主義的なのに対してま授業は集団主義的ですねその集団全体を見た上でその集団の中の役割どういう役割をその人が担っているのかそれはその集団の中の役割なので役割というのはその関係
性で出てくるわけですねえこの人がお父さんだとなってもそれは子供がいるからこそのお父さんでありそして奥さんがいるからこその旦那であっていわゆる関係性を中心に見ていくわけですねなのでその
一個人が独立してどことも関係を持たずに立っているわけではないのでえ常にその集団の中社会の中にいる個々人は必ずどこかと繋がっている社会の一員でありえ員でありただそこはあの関係性というものが
そこにくっついてくるのでそれによって振舞や優先順位や得られるリターンも違えば感じ方価値観も違うということを考えるのがこの授業のま集団主義的な考え方価値観ですね声優主義的な発想ですと正しいか
どうかよりもま良い人であることいいことをしましょうという側面が強いですけれどもま授業はどっちかとあの品格とか特とかというところを重視します社会全体に対していい行いをしましょうという社会全体の
ことも考えることもそうなんですけれどもえその中で自分たちのその関係性の中においてどう振る舞えるのかということを気にするそれを重視するという傾向があるわけですねあとはあの授業は状況で色々
あの倫理が変わったりします自分がどんな振舞いをするかというのは状況によって変わると状況によってその倫理の適用の仕方も変わると考えるのが授業ですねなのでま柔軟な道徳判断というのがま尊重さ
れるとでこれはあの悪く言えばま軸がないいろんなとところでコロコロ言ってることが変わるみたいな風にもなりますいわゆる2枚舌のように見えることもあるかと思いますけれどもまよく言えば柔軟でありえ
そのシチュエーションに応じて適用する倫理というのをうまく形を変えたりするわけですね政治家の方が法律自体を変えずに自分の適用の仕方をうまく変えたりえするようなのなんか似てそうな気はします
けれどもまそれはなんかこう受業的なわけですねこの倫理感とか道徳感がなぜ重要かなぜこれが次のそのAIのの障害になるのかどうかえ問題になるのかテーマになるのかと言いますと社会全体にAを適用しよう
と思った場合えその地域まそのコミュニティもそうですが人間がその社会生活を送る上でその集団要は関係性を持った人と人がこう関係性を持ったその関係を含めた価値観や倫理感がそのAIが出す
答えと衝突することが予測されます例えばあの医療現場でえ緊急搬送の入ってきた緊急の患者のどっちを優先して手術をして助けるのかという判断をもしAIにさせたとした場合えそのAIが判断するべき材料
は医療行為を行ってその医療行為に対してえ最もリターンが大きいもの医療行為が行うことの優先度をそのAIが決めるとなので生存率が低くそうなもの医療を施したとしても助かる確率見込みが低いと場合は
あもし同じようなシチュエーションで同じような緊急度で患者がいてその人の方が若干ま生存する確率が高いとなったらそっちの方を優先しましょうという判断ですねこれはも非常にま合理的で客観的に
見ればその判断は一方で正しいんだとは思いますがあの人間私たちはその優先度をこう図られてる人が誰なのかによって私たちてその倫理感変わりますよね今から助けようと思いますこっちを助けようと
思いますと言って選ばれた側が自分の子供だったら嬉しいかもしれませんがそれが自分の子供ではなくてどこかの子供でもう一方が自分のおじいちゃんおばあちゃんどっちを選ぶのって言われると自分にとっ
て関係性が深い方を選ぶ可能性が高高いと思いますえその時その時の状況に応じてどうしても私たち社会的な生き物ですからその倫理感っていうのは変わるんですねそれは関係性によって変わるということ
です例えばおじいちゃんが80歳のおじいちゃんが交通事故にあって運ばれてきたと同様にたちの女の人が同様にま交通事故でえ緊急搬送されてきたとえどちらも怪我の状態怪我の症状は深刻で重症であるとで
この場合どちらこ先に助けようとま手術をする場合に大手術になりそうなので病床を丸々8時間時間取ってしまうことが予測されるのでまどっちを優先しましょうかとなった場合に生存率が高い医療行為に対し
てその医療の成果が出そうな方は若い二十歳の女の人だということでそっちを先にやった方がいいですという風にAIが結論を出したとします果たしてそれをその病院含めたその地域の人たちはそのAIの
出した結論を受け入れるのかどうかですねもしその地域が年長者を敬いましょうというような価値観を持ったエリアであればあそのAIの結論は何を言ってんだばかかとこんなのおじいちゃんをつつける方に
決まってんだろうっていう風に思った場合AIの出す結論をそれ以降採用しなくなりますよね信用しなくなる受け入れなくなるということが起こりますするとAIは合理的な結論を出してるにも関わらず人々に
受け入れられないんであれば使われなくなりますよね使い物にならなくなっていくわけですねこれはよくあのSFのシーンとかでもこういうシチュエションってよくよく見るんですけれども私がま見た映画だ
とアイロボットというウィルスミスがあの主人公のアイロボットという映画のまウィルスミスがロボット嫌いAIを信用してないといったキャラクターなんですけれどもなぜそうなったのかというその
きっかけがウィルスミスが海の中に落ちてしまってでそれを救出するロボットが現れて救出行為を行おうとしたと結果的にそのウイルスミスは助かったんですけれどもその際にもう1人助けるべき対象がいて
それは見殺しにされたんですねそれが幼い子供だったとウィルスミスは自分の価値観に照らし合わせると自分なんかを助けるんじゃなくてあのさい子供未来がある子供を助けるべきだとただAIが判断した時に
生存率が高そうなのはウィルスミスと判断したのでウィルスミスの方を優先して救助したとで両者ともに救出することはできないので片方どちらかを優先して救出しないといけないその場合にウィルスミスが
選ばれたそこでまウィルスミスは俺だったらそんな判断はしないっていう風に反発するわけですねなので俺はAIを信頼しないしあのAIがこの社会の中に馴染んでくる入ってくるというのはありえないとま
強く反発する強く拒絶するわけですねこれがまさしくウルスミスの持っている倫理感とAIが下した結論これが衝突したわけですねでAI自体にはその倫理感や道徳感というのがそもそも内側にはないわけです
がそのように計算として結果出すようにというそのアルゴリズム自体が実はそういった倫理感や道徳感の繁栄になってしまってるわけですねなのでそこのその判断をするアルゴリズムの中にそういった道徳感
や倫理感というものを含めてAIの決断というものを考慮することができるのかどうかここが次のテーマになってくるんじゃないかなと思います社会全体にAIが浸透していくとというその過程できっとこの
問題はより顕在化しま様々なところで何度か衝突を起こして復旧すると思いますでそこに対してまカウンターカルチャー的にもうAIなんていらないよみたいなムーブメントも起こるんじゃないかなとも
思いますしついこの間までハリウッドの俳優組合顔や声をデータとして使うことに対してま映画の配給会社含め訴訟を起こすあるいはストライキを起こすみたいなことをやってま色々抵抗してましたけれどもま
最終的にはそれをま受け入れる形になるんじゃないかなとは思いますしただそうそういった衝突は必ずこれからも起こると思いますその西洋的な価値観道徳感に対してま受業的な考え方倫理感道徳感ここのま二項
軸だけではないので世界中にはいろんな価値観いろんな文化いろんなカルチャーがありますなのでそれら全部をそれぞれ取り込んでいくのか取り込んでいけるのかどうかまここもちょっと興味があります
技術的にはアルゴリズムのパターンが増えるだけなので可能ですと言い切ってしまうような気もするんですけれども果たしてそれだけでいけるのかどうかそしてそれを受け入れるのは人間なので
人間側がそのAIが出した結論を妥当だとちゃんと受け入れられるのかどうかその辺りもちょっと興味がありますまただいずれはそのAIが社会全体に対して浸透していくということはま避けられない当初
のシナリオ通り進むんだとは思いますその価値観や倫理感がぶつかるということによって私はある種私たち自身の倫理感や道徳感これが非合理で自分たちが社会全体にとっていいか悪いかというところまで
ちゃんと視野を広げて考えているわけでもなくただそのAIが出した結論に対してえ何か違和感があるといったようなモヤモヤした感情だけが残るみたいなそういうメカニズムそういう過程を通じて私たち
自身の価値観や私たち自身の道徳感が一体どんなものだったかという風にま気づかされるようなことが起こるんじゃないかなと思いますま私もその生生AIまチッGPTやあのクラウ3やまいろんな最近の出てき
たものといろんなこう情報をインプットしてそれを学習させて何か面白いアイデアだとか意見だとか言わみたいなことをやっていく中でいや自分だったらこう考えるのになとかこれは面白い発想だけどでもそれは
なんか人間っぽくないなとか逆にその人間っぽくないから面白いと思えたりするわけですけれどもそういった中で自分がどんな価値観だったかというのを改めてこう考えさせられるみたいなことが起こるのが
面白いなと思いましたあの初めて知り合った人と話す時とかもまそんな感覚はありますし今まで行ったことがない国に行ってえそこでま会話したりそこで何かま活動アクティビティを始めたりした場合でもま
起こる現象なんですけれどもまそれらってそれぞれリスクもあのコストもかかるんですがあこういった生生ってそのコストがほぼ0みたいなところでやれますのでまそういったのに自分が気づかされる気づい
ていくというのは面白いなと思いますただでもそれはあの個人として1対1でやっているのであのそれほどそれって問題にならないですよね面白がって終わりぐらいで終わるんですけれども集団やあそういった
関係性を持ったような文脈の中だと価値観の衝突は私たちにとってかなり不快でそこに対して驚かされたりそのAIをもう信用しなくなる見下してしまうみたいなことも起こりそうな気はしますなんか急にその
社会的なその社会全体に適用した瞬間に急にAIがバカに見えるみたいなそういった感想を人間側が抱くんじゃないかなとただそのAIが下した決断はとても合理的で人間では下せないような要はサイコパス的
な決断がAIはできるんですけどでもそれは人間だったらそんな発想しないよなっていう風にして逆にそれがバカだと見なして見下してしまうそれによってAIに対する期待が1回下がるみたいなことが起こるん
じゃないかなと思いますある一定のラインまでAIがこう持てされて東大の入試に合格できるレベルですとかあ国家試験が合格できるレベルですみたいな風にして知能の発展みたいなところを持てはやして
持ち上げる時期がある程度まで加速してスペックがどんどん上がってみたいなことが起こった後に社会全体に適用しとした瞬間に変な回答を出してきたなやっぱりAIダメじゃん急にバカに見えてきたよ
みたいなことが起こって失望していくみたいなことが起こるかなと思いますカードのあのハイプサイクルと言ってこう新しい技術が出てきたら1回加熱してからその後失望してまた盛り上がって普及して
いくみたいなまそういうこうフェーズってあるんですけれどももしかしたらAIに関しては社会に適用しようとした瞬間に失望というのが出てくるような気がしますあのこれからあとこのま生生AIだけじゃ
なくてですねえAI全般がこの私たちの社会を効率的にかつ便利にしていくという中で私たちが意外にその効率性ばかりを追い求めてるわけでもなければ便利になることだけを求めていたわけでもないみたい
な私たち自身が一体何を望んでいたのかみたいなことと逆にに問いかけ直すみたいなことが起こるんじゃないかなと思います先ほどの医療行為のシーンでもそうですけれどもAIが出した答えがとても効率的
でとてもこう免役的であるというにも関わらずそれに対して反発してしまう私たちは一体何なんだ合理的な判断に対してその合理的な判断が受け入れられないむしろ私たちの方が非合理的でえ決して得
になるようなことをしていないとまリターンが取れることをしていないと社会全体にとって見たら損をするかもしれないこと損を分かっていることをあえてやろうとしてしまうその私たちて一体なんだと
いうその自分たち人間である私たち側のこう倫理感や道徳感みたいなものも見つめ直させられる時が来るかもしれませんでそれをもしAIが乗り越えて私たちの倫理感や道徳感まで取り込んでそこに合わせて
くる答えを今度出すようになってきたその時には今度はAI側が私たちの道徳感や倫理感そのものももしかするとうまく調整してくれるようになって私たちがある時には西洋主義的にある時には受業主義的な
そういった考え方をAIがうまく誘導してくれるみたいな体がもしかしたら来るかもしれませんそなるともうついに私たちは自分たちの価値観や倫理感を問うことすらもなくなってしまうみたいなまある種の
アンチテズですね私たち自身が一体何者であるかすらも問う必要がない考える必要がない社会というのが来てしまうるともしかしたら私たち自身がAIに置き換えられてもはや気づかない位プレイヤーにまで
格下げされてしまう可能性もあるかなと思いますがまそれはもう遠い遠い未来SFの世界だったりしますのでえ今はまだそそこまで話を広げてえ言及するのやめとこうかなと思いますでコエル技術の1作
目はをこれもAmazonで買えますのでえまだ読んでない人はAmazonでポチって読んでみてくださいあのもうコエル技術結構前に書いたのでえもう2年3年ぐらい前ですかねなのであのもう私の
考え方もかなり変わってしまってる部分があります当時書いた内容を今読み返すとえちょっと違うかも今だったら違う意見かもなと思うところも結構あるのであコエル技術の1作目と2作目結構その作風という
かあの攻め方切り口も全然違うようになるかもしれないですがまその辺はですね続編と言いつつも全く別の本になる可能性が高いのでその辺のこう読み比べみたいなものも楽しんでもらえればいいんじゃない
かなと思いますさすがにこう毎日毎日喋るのにネタがよくあるなという風に自分でもあの思いますがあの毎日必死にいろんなネタ集めながら何を喋ろうかなと頭古回転にして考えながら喋ってますのでえ皆さん
も是非それを楽しみにしてもらえればなと思いますもう何かの作業しながら聞きとかでいいと思いますのであの気がつくと私あの340分喋ってたりする場合もあったりして後から見直とこんな喋ってたのか
と自分でびっくりしたりするぐらいですのでえ早口とはいえ文字で起こすと大体8000文字から9000文字ぐらいあってですね私は本書いてるから何文字でどれぐらいの分量かって大体目安感があるん
ですけど大体1万文字だと1勝分ぐらいですかね本で言全10章でえ15万文字ぐらいがあるような本一般的なあの文庫本とかそうなんですけれどもまそれが10章あるような本だとその1勝分ですねまワン
テーマそれをこれ1回のの配信の中で一気に喋りきるのでま内容はちょっと薄くなってるとは思いますけれども余分なことことを喋ってるのでですがま分量的にはそれぐらいあるのでずっとえ聞いていればある
程度のその情報量文字料が入ってくるんじゃないかなと思ってますなるべく酷してえ詰め込んで喋るつもりですのでちょっと色々喋るためのネタを探しながらもうすぐにまた配信するというのをま続けていき
たいなと思いますということであの今日も長らくお付き合いいただきありがとうございますお疲れ様でしたいつかライブ配信とかしてみたいなとは思いますが私自身のテーマがまかなり狭いのももあり
つつそしてまだまだチャンネルの登録者数とかあと視聴回数もですねここでライブ配信しても多分0とか1で1で入ってきた人も秒で抜けていっちゃうみたいな多分そんな状態になりそうなのでまある程度
あのホットになってきてえ再生回数も回るようになって皆さんのリアクションがまコメントなりえいいねなりえ何かついてくるようになったぐらいでちょっとやってみようかなと思いますであとま配信する
タイミングも皆さんが見やすい時間でなると私も本読んだりあの自分の時間に使いたいところで時間自体もバッティングしてしまうので今のところはまだあのすぐにやろうと思ってませんけれどもまそのうち
やってみたいなと思います今日もお疲れ様でした