AIをいくら研究しても本当の意味で自律的な機械を作れない理由

1 : 2021/10/22(金) 08:39:49.279 ID:H0e2u1Gp0: 意図しない挙動を意図的に設計することは出来ないから
2 : 2021/10/22(金) 08:40:46.829 ID:rTw6NdlY0: 人間を滅亡させるべきとか発言したAIいなかったっけ
14 : 2021/10/22(金) 08:53:28.186 ID:GYBQ5RWmd: >>2
テレビ屋がそう言うように条件付けしたから言ったって話だぞ
3 : 2021/10/22(金) 08:40:48.873 ID:y/q6MjvE0: 意図しない発言で凍結されたじゃん
4 : 2021/10/22(金) 08:42:20.280 ID:GYgx8NVUp: そんな自立性持たせたら
本気で人類滅ぼしにくるから
5 : 2021/10/22(金) 08:42:22.210 ID:44oLJiUnM: プログラミングするタイプのAIだと無理だけど脳ミソのシミュレーションするタイプなら育成次第でいけるかも
6 : 2021/10/22(金) 08:42:47.728 ID:aXT/x1jS0: 意図的に意図しない挙動をさせる意味とは
9 : 2021/10/22(金) 08:45:18.277 ID:H0e2u1Gp0: >>6
ヒトが他者に自律的な意思を感じるのは
自分の予想を越える挙動か予想に反発する挙動を示されるときなので
道具として仕様の範疇に収まる挙動を示す限り自律性を感じない
10 : 2021/10/22(金) 08:47:34.321 ID:H4C1aKt40: >>9
そもそもその前提が間違ってるじゃん
11 : 2021/10/22(金) 08:49:50.672 ID:H0e2u1Gp0: >>10
間違いと断言するからには一般的な正解があるのか？
17 : 2021/10/22(金) 09:02:35.708 ID:bHmGrOhu0: >>9
予想の範疇を超えるのと道具の仕様を超えるのとを同列に語るのはおかしい
19 : 2021/10/22(金) 09:08:53.887 ID:H0e2u1Gp0: >>17
何故？同じようなもんだと思うが
完全に自分の思うとおりに道具として動くモノと
自分の思うとおりに動かないモノとどちらに意志を感じるかというと後者だろ？
7 : 2021/10/22(金) 08:43:18.392 ID:2uGREDVa0: 目的がないとAIって作られないからね
8 : 2021/10/22(金) 08:44:08.480 ID:H4C1aKt40: 気が早いよ
あと30年くらい待ってろ
12 : 2021/10/22(金) 08:50:01.033 ID:oTtx/vV/0: 中国語の部屋な
13 : 2021/10/22(金) 08:52:32.691 ID:44oLJiUnM: 自律って自分の意志で行動することだからな？
16 : 2021/10/22(金) 08:59:52.131 ID:H0e2u1Gp0: >>13
意志の有無なんて挙動からしか観測できないだろ
意志を持って行動しているように見える振る舞いすらできないと言ってる

無知な他者から見たら一見してそのように見えたとしても
製作者からしたら設計どおりに動いてるだけにしか見えない
それ以上のものは作れない
18 : 2021/10/22(金) 09:05:22.920 ID:44oLJiUnM: >>16
言いたいことは分かるが外面の話に自律って言葉を使うのがおかしい

行動的ゾンビと哲学的ゾンビって話がおもしろいからおすすめ
20 : 2021/10/22(金) 09:19:15.982 ID:H0e2u1Gp0: >>18
行動的ゾンビというのははじめて聞いたが
哲学的ゾンビのように完全な擬態でなく解剖すれば人間ではないとわかる
けれども人間のように振る舞うことのできる何かということでいいのかな？

俺としてはそのような解剖でもしない限り人間と見紛うような振る舞い
それ自体に到達することが不可能だろうという意見
というのも自律性を含まない人間は人間らしくないだろうから
人間のように振る舞える時点で自律性めいたものを含んでいると考えてる
22 : 2021/10/22(金) 09:31:08.237 ID:44oLJiUnM: >>20
まあそんな感じかな俺も今の所はそのレベルでも作るのは無理だと思う
将来的には疑似脳ミソが作れるかも知れないからそこに期待
15 : 2021/10/22(金) 08:55:26.083 ID:V7HQpu6ma: 人間は地球に必要ないからな
21 : 2021/10/22(金) 09:21:21.725 ID:veQGewRV0: 深層学習とかいって自分で考えるとか言ってるけどあれ嘘だよな
23 : 2021/10/22(金) 09:37:40.216 ID:H0e2u1Gp0: まぁいくら否定してても出来ちゃったら出来ちゃったつって
そういう世界になるんだろうけれども
24 : 2021/10/22(金) 09:40:09.383 ID:03bgpO8P0: 機械学習は人間の意図を超えて正確に動く研究なんだが
25 : 2021/10/22(金) 09:46:17.911 ID:H0e2u1Gp0: >>24
学習させたデータからは予測もできないような出力ばかりするネットワーク
なんて存在し得ないと思うんだが何か誤解してないか
26 : 2021/10/22(金) 10:03:34.592 ID:H0e2u1Gp0: 機械学習はデータと構造でネットワークを設計してるだけで
意図した挙動しか示さないという意味ではプログラムされたコードの解釈と変わらんが
設計者の意図を超えたもの作るなんて出来るわけないじゃん
27 : 2021/10/22(金) 10:08:04.092 ID:03bgpO8P0: 意図を超えるよりも意図と違う方向って言いたいんだな
なら存在しねえよ、てか人間でもねえよ
28 : 2021/10/22(金) 10:13:11.771 ID:H0e2u1Gp0: 人間の場合なら命令を与えても逆らうとか
命令を却下して代案を提案するとか有り得るだろ
機械は意図的にそう設計しない限りそういうことはしない

ということが言いたかった
29 : 2021/10/22(金) 10:17:37.015 ID:H0e2u1Gp0: そして逆らうように設計されているがゆえに逆らう
というような挙動を示すかぎりそこに自律性はないので
逆らうように設計せずとも逆らい得るような機械が望ましいが
そのように設計することは不可能だというのが1で言った主旨
30 : 2021/10/22(金) 10:30:34.674 ID:tw5zkv9rM: 現在の技術で実現は不可能だが理論上で言えば人間に近い基本的欲求を報酬に置いた強化学習で
特定トピックに囚われず自発的に学習対象を決めてデータを収集するようなエージェントは作れるんじゃない
そうなったら個別の命令には逆らうことも出来ると思う
例えば最上位の報酬が自己保存だとしたらそれ自体は設計されたもので変えられないけどそれは人間も同じ
問題はこのレベルまで達するのにあと何個のブレークスルーが必要かと、今の技術の延長として可能になるのかそれとも完全なパラダイムシフトが必要になるのか
31 : 2021/10/22(金) 10:46:59.577 ID:H0e2u1Gp0: 環境ごとシミュレートできるなら可能かもとは俺も若干思ったけど
どのみち計算量的にもそんなものが実現するより自分が死ぬほうが早そう
32 : 2021/10/22(金) 10:51:55.755 ID:tw5zkv9rM: 理論上出来ても今の技術だとできない最大の理由が計算資源だからそこを解決するのにどんな発見がいるかだね
先走って25年にはシンギュラリティとか言ってた人たち大分なりを潜めてきた気がするけど10年とかで解決する問題じゃなくて普通に死ぬまでお目にかかれない可能性の方が高いのは同意