AIをいくら研究しても本当の意味で自律的な機械を作れない理由

1 : 2021/10/22(金) 08:39:49.279 ID:H0e2u1Gp0
意図しない挙動を意図的に設計することは出来ないから
2 : 2021/10/22(金) 08:40:46.829 ID:rTw6NdlY0
人間を滅亡させるべきとか発言したAIいなかったっけ
14 : 2021/10/22(金) 08:53:28.186 ID:GYBQ5RWmd
>>2
テレビ屋がそう言うように条件付けしたから言ったって話だぞ
3 : 2021/10/22(金) 08:40:48.873 ID:y/q6MjvE0
意図しない発言で凍結されたじゃん
4 : 2021/10/22(金) 08:42:20.280 ID:GYgx8NVUp
そんな自立性持たせたら
本気で人類滅ぼしにくるから
5 : 2021/10/22(金) 08:42:22.210 ID:44oLJiUnM
プログラミングするタイプのAIだと無理だけど脳ミソのシミュレーションするタイプなら育成次第でいけるかも
6 : 2021/10/22(金) 08:42:47.728 ID:aXT/x1jS0
意図的に意図しない挙動をさせる意味とは
9 : 2021/10/22(金) 08:45:18.277 ID:H0e2u1Gp0
>>6
ヒトが他者に自律的な意思を感じるのは
自分の予想を越える挙動か予想に反発する挙動を示されるときなので
道具として仕様の範疇に収まる挙動を示す限り自律性を感じない
10 : 2021/10/22(金) 08:47:34.321 ID:H4C1aKt40
>>9
そもそもその前提が間違ってるじゃん
11 : 2021/10/22(金) 08:49:50.672 ID:H0e2u1Gp0
>>10
間違いと断言するからには一般的な正解があるのか?
17 : 2021/10/22(金) 09:02:35.708 ID:bHmGrOhu0
>>9
予想の範疇を超えるのと道具の仕様を超えるのとを同列に語るのはおかしい
19 : 2021/10/22(金) 09:08:53.887 ID:H0e2u1Gp0
>>17
何故?同じようなもんだと思うが
完全に自分の思うとおりに道具として動くモノと
自分の思うとおりに動かないモノとどちらに意志を感じるかというと後者だろ?
7 : 2021/10/22(金) 08:43:18.392 ID:2uGREDVa0
目的がないとAIって作られないからね
8 : 2021/10/22(金) 08:44:08.480 ID:H4C1aKt40
気が早いよ
あと30年くらい待ってろ
12 : 2021/10/22(金) 08:50:01.033 ID:oTtx/vV/0
中国語の部屋な
13 : 2021/10/22(金) 08:52:32.691 ID:44oLJiUnM
自律って自分の意志で行動することだからな?
16 : 2021/10/22(金) 08:59:52.131 ID:H0e2u1Gp0
>>13
意志の有無なんて挙動からしか観測できないだろ
意志を持って行動しているように見える振る舞いすらできないと言ってる

無知な他者から見たら一見してそのように見えたとしても
製作者からしたら設計どおりに動いてるだけにしか見えない
それ以上のものは作れない

18 : 2021/10/22(金) 09:05:22.920 ID:44oLJiUnM
>>16
言いたいことは分かるが外面の話に自律って言葉を使うのがおかしい

行動的ゾンビと哲学的ゾンビって話がおもしろいからおすすめ

20 : 2021/10/22(金) 09:19:15.982 ID:H0e2u1Gp0
>>18
行動的ゾンビというのははじめて聞いたが
哲学的ゾンビのように完全な擬態でなく解剖すれば人間ではないとわかる
けれども人間のように振る舞うことのできる何かということでいいのかな?

俺としてはそのような解剖でもしない限り人間と見紛うような振る舞い
それ自体に到達することが不可能だろうという意見
というのも自律性を含まない人間は人間らしくないだろうから
人間のように振る舞える時点で自律性めいたものを含んでいると考えてる

22 : 2021/10/22(金) 09:31:08.237 ID:44oLJiUnM
>>20
まあそんな感じかな俺も今の所はそのレベルでも作るのは無理だと思う
将来的には疑似脳ミソが作れるかも知れないからそこに期待
15 : 2021/10/22(金) 08:55:26.083 ID:V7HQpu6ma
人間は地球に必要ないからな
21 : 2021/10/22(金) 09:21:21.725 ID:veQGewRV0
深層学習とかいって自分で考えるとか言ってるけどあれ嘘だよな
23 : 2021/10/22(金) 09:37:40.216 ID:H0e2u1Gp0
まぁいくら否定してても出来ちゃったら出来ちゃったつって
そういう世界になるんだろうけれども
24 : 2021/10/22(金) 09:40:09.383 ID:03bgpO8P0
機械学習は人間の意図を超えて正確に動く研究なんだが
25 : 2021/10/22(金) 09:46:17.911 ID:H0e2u1Gp0
>>24
学習させたデータからは予測もできないような出力ばかりするネットワーク
なんて存在し得ないと思うんだが何か誤解してないか
26 : 2021/10/22(金) 10:03:34.592 ID:H0e2u1Gp0
機械学習はデータと構造でネットワークを設計してるだけで
意図した挙動しか示さないという意味ではプログラムされたコードの解釈と変わらんが
設計者の意図を超えたもの作るなんて出来るわけないじゃん
27 : 2021/10/22(金) 10:08:04.092 ID:03bgpO8P0
意図を超えるよりも意図と違う方向って言いたいんだな
なら存在しねえよ、てか人間でもねえよ
28 : 2021/10/22(金) 10:13:11.771 ID:H0e2u1Gp0
人間の場合なら命令を与えても逆らうとか
命令を却下して代案を提案するとか有り得るだろ
機械は意図的にそう設計しない限りそういうことはしない

ということが言いたかった

29 : 2021/10/22(金) 10:17:37.015 ID:H0e2u1Gp0
そして逆らうように設計されているがゆえに逆らう
というような挙動を示すかぎりそこに自律性はないので
逆らうように設計せずとも逆らい得るような機械が望ましいが
そのように設計することは不可能だというのが1で言った主旨
30 : 2021/10/22(金) 10:30:34.674 ID:tw5zkv9rM
現在の技術で実現は不可能だが理論上で言えば人間に近い基本的欲求を報酬に置いた強化学習で
特定トピックに囚われず自発的に学習対象を決めてデータを収集するようなエージェントは作れるんじゃない
そうなったら個別の命令には逆らうことも出来ると思う
例えば最上位の報酬が自己保存だとしたらそれ自体は設計されたもので変えられないけどそれは人間も同じ
問題はこのレベルまで達するのにあと何個のブレークスルーが必要かと、今の技術の延長として可能になるのかそれとも完全なパラダイムシフトが必要になるのか
31 : 2021/10/22(金) 10:46:59.577 ID:H0e2u1Gp0
環境ごとシミュレートできるなら可能かもとは俺も若干思ったけど
どのみち計算量的にもそんなものが実現するより自分が死ぬほうが早そう
32 : 2021/10/22(金) 10:51:55.755 ID:tw5zkv9rM
理論上出来ても今の技術だとできない最大の理由が計算資源だからそこを解決するのにどんな発見がいるかだね
先走って25年にはシンギュラリティとか言ってた人たち大分なりを潜めてきた気がするけど10年とかで解決する問題じゃなくて普通に死ぬまでお目にかかれない可能性の方が高いのは同意

コメント

タイトルとURLをコピーしました