AIのルールはだれが決める？　国連こくれん人権じんけんトップが政府せいふの規制きせい強化きょうかを呼びかけ

何があった？

国連こくれん人権じんけん高等こうとう弁務べんむ官のフォルカー・テュルク氏は2026年9月14日、高度こうどなAIの開発かいはつについて公開こうかい書簡しょかんを出しました。企業きぎょうが自分じぶんたちで安全あんぜん対策たいさくを決めるだけでは十分じゅうぶんではないとして、政府せいふにも独立どくりつした検証けんしょう、重大じゅうだいな問題もんだいの報告ほうこく、人権じんけんへの影響えいきょう確認かくにんなどを求めました。

なぜ大事？

AIは勉強べんきょう、仕事しごと、医療いりょう、情報じょうほうサービスなどに役立つやくだつ一方いっぽう、個人こじん情報じょうほう、差別さべつ、誤情報じょうほう、安全あんぜん性などに関わる問題もんだいも起こり得ます。だれが安全あんぜんを確かめ、問題もんだいが起きたときに責任せきにんを持つのかは、AIを使う人みんなに関係かんけいします。

これからどうなる？

テュルク氏は、政府せいふがAIの能力のうりょくを独立どくりつして確かめられる仕組みしくみや、重大じゅうだいな問題もんだいを報告ほうこく・調査ちょうさする仕組みしくみを整え、各国かっこくが協力きょうりょくして共通きょうつうの考え方かんがえかたをつくるよう求めています。今後こんごは、こうした提言ていげんが各国かっこくの法律ほうりつや国際的こくさいてきな話し合いはなしあいにどう反映はんえいされるかが注目ちゅうもくされます。

日本との関係

日本にほんでも学校がっこうや家庭かてい、仕事しごとでAIを使う機会きかいが増えています。便利べんりさだけでなく、入力にゅうりょくした情報じょうほうがどう扱われるか、答えにまちがいや偏りがないか、最終さいしゅう的にだれが責任せきにんを持つのかを考えることが大切たいせつです。

もう少しくわしく

AIの安全あんぜんは、会社だけで決めればいい？

文章ぶんしょうをつくったり、画像がぞうを調べたり、質問しつもんに答えたりするAIは、私たちの生活に急速に広がっています。

便利な使い道が増える一方いっぽうで、「とても高い能力を持つAIを、だれが安全あんぜんだと確かめるのか」という問題もんだいも大きくなっています。

国連こくれん人権じんけん高等弁務官のフォルカー・テュルク氏は9月14日、高度こうどなAIを開発する企業きぎょうと各国政府に向けた公開こうかい書簡を出しました。

そこで強く伝えたのは、企業きぎょうが自分たちだけで安全あんぜんルールを決めるやり方には限界があるということです。

政府にも「確かめる役割やくわり」がある

テュルク氏は、AI企業きぎょうの自主的な安全あんぜん対策そのものを否定しているわけではありません。企業きぎょうどうしが安全あんぜんのために協力きょうりょくし、問題もんだいが起きた経験けいけんを共有きょうゆうすることも必要ひつようだとしています。

そのうえで、政府にも次のような役割やくわりが必要ひつようだと述べました。

たとえば、高度こうどなAIがどんなことをできるのかを独立した立場で検証すること。重大な問題もんだいが起きたときに、企業きぎょうだけで抱えこまず報告ほうこくし、調査ちょうさできるようにすること。そして、AIが人の権利けんりにどんな影響えいきょうを与えるかを継続けいぞくして確かめることです。

つまり「つくった会社が大丈夫と言ったから大丈夫」で終わらせず、外からも確認かくにんできる仕組みしくみをつくろう、という考え方かんがえかたです。

なぜ「人権じんけん」がAIの話に出てくるの？

人権じんけんとは、人が人として大切たいせつにされ、安全あんぜんに暮らすための基本きほん的な権利けんりのことです。

AIは、情報じょうほうを探す道具だけではありません。将来しょうらいさらに多くの場面で使われれば、仕事の選び方、公共サービス、医療いりょう、個人情報じょうほう、ニュースや選挙で目にする情報じょうほうなどにも影響えいきょうする可能性かのうせいがあります。

もしAIの判断はんだんに偏りがあったり、個人情報じょうほうが必要ひつよう以上いじょうに集められたり、まちがった情報じょうほうが大量に広がったりすれば、人の生活や権利けんりに関わります。

だからテュルク氏は、AIの安全あんぜんを「コンピューターが故障しないか」だけではなく、人の権利けんりが守られるかという視点でも考えるよう求めています。

「AIを止めよう」という話ではない

今回こんかいの提言は、AIの研究けんきゅうや利用りようをすべて止めようという内容ではありません。

AIには、科学かがく研究けんきゅう、翻訳、農業のうぎょうなど、人の役に立つ使い道があります。大切たいせつなのは、便利さを伸ばすことと、安全あんぜんや権利けんりを守ることをどちらか一方いっぽうにしないことです。

また、高度こうどなAI企業きぎょうはアメリカや中国など少数の国に集中しています。国ごとのルールが大きく違うと、「規制のゆるい場所ばしょで開発しよう」という競争につながるおそれがあります。そのためテュルク氏は、各国が考え方かんがえかたをそろえ、国際的こくさいてきに協力きょうりょくすることも求めました。

私たちがAIを使うときにもつながる話

国どうしのルールづくりは大きな話に見えますが、考え方かんがえかたは日常にちじょうのAI利用りようにもつながっています。

AIの答えをそのまま信じず、根拠こんきょを確かめる。名前なまえや住所など大切たいせつな情報じょうほうをむやみに入力しない。AIが出した結果で人に大きな影響えいきょうが出る場面では、人が確認かくにんする。

AIができることが増えるほど、「できるから使う」だけでなく、だれが確かめ、だれが責任を持つのかを考えることが重要じゅうようになります。