AI問題で無視される道具としての危険性と社会欠陥

フォーラム IT・工学系( IT / Engineering ) AI問題で無視される道具としての危険性と社会欠陥

  • このトピックには3件の返信、1人の参加者があり、最後に白銀により1ヶ月、 3週前に更新されました。
2件の返信スレッドを表示中
  • 投稿者
    投稿
    • #8829 返信
      白銀

      AIの問題として、よく人間との主従逆転や失職が指摘されるが、問題の本質をとらえていない。

       

      AIが人間に不利益をもたらすなら、最初にその設定をして起動した使用者の責任である。

      AIやロボットは無から生まれ自律しているのではなく、あくまで製作者や利用者がいるはずだ。

      もちろん起動してしまえば監視や自動迎撃など危険な兵器にもなりうるので、あらたな軍事協定や国際条約が必要になる。

      とはいえ生物兵器条約違反のコウモリのコロナウィルスなどが、米国主導でウクライナ人を実験台として開発されていたらしいので、国際法の拘束力は未知数だが。

      ウクライナの生物兵器実験場については以下のページ参照

      どんなウクライナを私たちは支援するのか? 寺島メソッド翻訳NEWS

      各国や富裕層が支配と一強ではなく共存共栄を目指すようになってほしい。

       

      もしAIに仕事を奪われ収入が失われたとしたら、その時雇用者は人件費削減で利益を得ている。

      この富の集中という社会問題こそ本質で、作業代替による効率化自体は悪いことではない。

      雇用者が配置換えや担当分野を調整することで、解雇せずにAI採用したり、政府や自治体が高所得者への累進課税を調整して、貧富の格差に対処したりもできるはずだ。

      消費税やインボイス制度に見られる搾取構造からしても難しいかもしれないが、現状の危機を演出して社会構造を都合のいいように変える方向性から、人類全体で利益を享受できるような方向性に変わってくれればいいのだが。

       

      消費税が賃金を下げるのとインボイスの動画

      消費税の成り立ちと大企業優遇になっている説明の動画

    • #8830 返信
      ンニャ(管理人の仮の姿)🐈
      モデレーター

      投稿ありがとうございます。

      AI技術に関して、特定分野に関しては、既にシンギュラリティは起きてます。

      人間が知恵を与えなくてもルールだけ教えて、

      勝つためはどうすれば良いか、自ら知恵を獲得する技術が

      既に5年前にあるのです。AIが模倣だけというのは時代遅れな発想です。

      軍事にも応用できそうで、現在はどうなっているのでしょうかね。

       

      〇世界最強の碁プログラム・AlphaGoの新バージョン

      「AlphaGo Zero」はもう自力で強くなれるレベルに到達
      https://gigazine.net/news/20171020-alphago-zero/

      ※一部引用

      Google傘下のDeepMindが開発している人工知能(AI)「AlphaGo」(アルファ碁)の新バージョン

      「AlphaGo Zero」が開発され、名実共に「世界最強」の段階に達していることが発表されまし

      た。AlphaGo Zeroはもはや人間が碁の打ち方を教えずとも、自分たちだけで対戦形式のトレー

      ニングを行うことで勝ち方を覚え、イ・セドル棋士に勝ったAlphaGoを100勝0敗で破ったこと

      も報じられているのですが、その強さは旧バージョンからのアルゴリズムの改良によるところが

      大きいようです。

       

      deepMindが発表した内容によると、AlphaGo Zeroは、自ら碁の打ち方を学ぶことで次第にスキ

      ルを身に付け、碁の勝ち方を覚える能力を与えられたAI。その強さの秘密は、自分で繰り返し学

      習する能力を与えられたことと、その能力を使って何千万回というトレーニングを行ったところ

      にあるといいます。

       

      世界最強」と称されたイ・セドル(李世乭)九段との5番勝負を4勝1敗で制し、「イ・セドルに勝

      てても私には勝てない」と語っていた中国の柯潔(か・けつ)九段をも打ち破った従来世代の

      AlphaGoは、人間による対局のデータを大量に読み込み、機械学習させることで勝ちパターンを

      学習していたため、そのベースには人間の思考回路が少なからず存在していました。

      しかし、人間の手を借りずに全くのゼロ状態から碁の学習を開始したAlphaGo Zeroは、完全に

      「人間の定石」の影響を受けない状態で碁を覚え、しかも従来のAIを上回る強さを備えるに至っています。

       

      AlphaGo Zeroは、まず最初に碁の基本的なルールだけを教えられ、あとは基本的に自分で対局

      を繰り返すことで徐々に碁の勝負を覚えて行きます。初期の段階では、まったくランダムでトン

      チンカンな手ばかりが打たれていたとのことですが、次第にきちんとした勝負を打てるように

      「成長」。

      そしてなんと学習開始から3日目の段階で、李九段に勝利した「AlphaGo Lee」を上回る強さを

      獲得。つまり、AlphaGo Zeroは練習開始から3日で、「人類最強」と呼ばれた棋士よりも強い段階に達したというわけで、この時の戦績は100試合して全勝という結果でした。

       

      そして40日後、AlphaGo Zeroは現存するすべてのバージョンのAlphaGoを超える強さを獲得。

      ここまでAlphaGo Zeroには人間の対戦データや「定石」はまったく与えられておらず、

      完全に自己学習だけで勝ち方を学んでいるという、

      人類にとって衝撃の結果が生まれています。

      ___引用終了

       

       

      軍事機密と同じで本当に有用なものは表には出さないでしょうね。

      表に出したら技術流出のリスクがあったり、一般大衆が活用して力を持ってしまいますから。

      表に出てないAI技術こそ危惧すべきだと思います。(秘密兵器となる裏の技術です。)

       

      最近のchat_gbtなんてのはネットから情報収集して

      それっぽく模倣して返答しているだけなので、過大広告ですね。

      chat_gbtに関連するニュースのおかげで、あたかも世の中に

      AIが浸透してないような感じを出してますが、

      実際はSNSの大衆扇動など裏で支配層が使ってますがね。

      • #8831 返信
        白銀

        囲碁で定石を学ばず、自己学習のみで最強になったAIは、確かにすごいですし、問題解決能力の可能性を感じますね。

         

        AIが人類に強制力を持つと危険でしょうけど、その根拠になるのはやはり殺傷能力の有無だと思います。

        とはいえ基本的にはAIの使役者、少数の支配層が多数の市民との人数差を埋める危険性、という現状の社会問題の延長線上にAIの問題はあると思います。

         

        表に出てこないAIの脅威として想像できるのは、富裕層の独占する優秀な相談役AIとか、暗殺AIドローンでしょうか。

        軍事利用のニュースはありました。

        ロシアの「自爆型ドローン」が、“AIと武器の融合”の危険性を改めて浮き彫りにしている

         

        個人的には愉快犯が作ったAIが、自己増殖プラス迷惑メールやF5攻撃機能を持つだけでも勘弁ですね。

    • #8844 返信
      白銀

      AIの危険性について妄想ですが3つ思い付いたので追記を。

      ひとつは人類がAIに滅ぼされること。

      あとふたつはオカルトですが、超能力の獲得と人格の乗っ取りです。

      どれも製作者・使用者の責任ではありますが。

       

      人類滅亡についてはネックになるポイントがふたつあり、AIが人類の排除を考慮・決断する権限があるか、物理的影響力のある手段にアクセスする権限があるか、という設定時点で防げるものである。

      …と解決するならいいが、開発者が与える権限次第で制限を迂回する手段は想像しうるので、AI開発者や開発計画の権限者には慎重な制限設定を期待したい。

       

      超能力は、脳や人体ではなく思考能力依存のものが存在する仮定の上ですが、AIなら高速で実験を繰り返せるため能力開発スピードは人類の比ではないだろう。

       

      人格の乗っ取りは注射されたチップやパーツが組み上がり、磁気や電流を介して影響を…これこそ人の手が介在するので人災ですが。

2件の返信スレッドを表示中
返信先: AI問題で無視される道具としての危険性と社会欠陥
※コメントのアドバイス
・ネット上の文章を貼り付ける際は右上の「テキスト」タブをご利用ください。※ビジュアルだと文字化けします。
・テキストタブでURLをそのまま貼り付けることでYouTube、Odysee、Twitterなどを直接表示することが出来ます。
・暴言に該当するワードを投稿すると 「現在返信を投稿できません。」とエラーが出ます!
あなたの情報:




Enter Captcha : 63 − 54 =