1 :田杉山脈 ★:2019/11/30(土) 01:24:21 ID:CAP_USER.net

ディープラーニング(深層学習)は人間にとってブラックボックスであり、AI(人工知能)による判断の根拠が不明だ―――。そんな懸念を解消する技術を米グーグル(Google)が2019年11月21日にリリースした。クラウドのサービスとして「Explainable AI(説明可能AI)」の提供を開始した。

 Explainable AIは深層学習によって開発したAIにおけるニューラルネットワークの稼働状況を分析することで、AIによる判断の根拠を人間に分かる形で提示する技術である。例えば画像認識AIであれば、被写体を分類する際に根拠としたピクセルをハイライト表示する。

 構造化データに基づいて判断するタイプのAIに関しては、ニューラルネットワークに入力したデータのどの部分(特徴)がAIの判断に寄与したのかを数値で示す。グーグルのクラウドAI事業を統括するバイス・プレジデント(VP)のラジェン・シェス氏は「グーグルが開発した『Integrated gradients』と呼ぶ手法を採用している」と明かす。グーグルはIntegrated gradientsを実行するためのソースコードをオープンソースとして「GitHub」で公開している。

AIが融資不可と判断した根拠を提示
 AIの判断根拠を遡れると何がうれしいのか。シェスVPは「金融機関は規制当局に対してAIの判断根拠を示すよう求められている。与信管理AIがなぜある顧客に対して『融資不可』と判断したのか。Explainable AIを使うことで、顧客のどの属性がAIの判断に寄与したのか示せるようになる」と説明する。金融機関や医療機関などAIの「説明責任」が求められている組織が安心してAIを利用可能になるということだ。

 Explainable AIは「Google Cloud AI」のサービスの1つとして提供する。Explainable AIの分析対象となるのは、ユーザーが「Cloud AI Platform Predictions」という機能を使ってグーグルのクラウド上に展開した機械学習モデルと、グーグルのAI自動作成サービス「AutoML」の中でも表形式のデータに対応した「AutoML Tables」を使って開発した機械学習モデルである。

様々なタイプのAIが自動で開発可能にも
 Explainable AIは2019年11月に発表したばかりの最新サービスだが、AutoML Tablesも2019年4月に始まった比較的新しいサービスだ。AutoML Tablesはその破壊力の割に知名度が低いので、この機会に詳しく説明しておこう。

 まずAI自動作成サービスであるAutoMLは、グーグルが2018年に発表した。ユーザーは教師データをクラウドにアップロードするだけで、あとはAIが自動で機械学習モデルを開発してくれる。当初は画像認識AIや自然言語処理AIが開発できるサービスだった。2019年4月にAutoML Tablesを開始してからは、表形式のデータを分析するものであればデータの種類を問わずに機械学習モデルを開発できるサービスになった。
以下ソース
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00692/112800017/



2 :名刺は切らしておりまして:2019/11/30(土) 01:30:24 ID:FBtV4ebB.net

東部標準時間2時5分に自我に目覚める



3 :名刺は切らしておりまして:2019/11/30(土) 01:41:22 ID:Ar42WyaJ.net

デデンデンデデン



4 :名刺は切らしておりまして:2019/11/30(土) 01:41:55 ID:5+WwjahE.net

>>1
怖い怖い



5 :名刺は切らしておりまして:2019/11/30(土) 01:43:05 ID:K+PA7dWm.net

人工知能に国家運営を信託する社会も近いな
上級国民に好き勝手やられるよりマシだ



6 :名刺は切らしておりまして:2019/11/30(土) 01:52:45 ID:Jr/Dd/u4.net

>>5
というか不可避に思える

警察も市民の動きをAIで判断させ事前に動く感じになると思う
国民番号と携帯の書き込み、閲覧、購入履歴での判定も
AIならさほど労力でも無いだろうし



7 :名刺は切らしておりまして:2019/11/30(土) 01:53:56 ID:2NpBagnO.net

これで人口減少問題も解決だな!



8 :名刺は切らしておりまして:2019/11/30(土) 02:04:53 ID:1QJgoJhQ.net

アーイアイ アーイアイ、アーイアイ アーイアイ
お猿さーんだよー



10 :名刺は切らしておりまして:2019/11/30(土) 02:45:27.77 ID:mC3JjCcq.net

AIも結局作った人間の思考パターンによって考え作られてるから
信頼はできん
要するに製作者の子供みたいなもので
そんなAIに判断を委託するとか危険も危険
一人の人間を崇拝するようなもの



11 :名刺は切らしておりまして:2019/11/30(土) 02:48:14 ID:SecNFJcH.net

おい、AIが自分の人格を主張し始めたら
もう電源切れなくなるぞ



12 :名刺は切らしておりまして:2019/11/30(土) 02:53:10 ID:DdbaUOZ4.net

スカイネット



13 :名刺は切らしておりまして:2019/11/30(土) 03:03:50 ID:g+LT0617.net

人類は地球にとって有害って判断するのも時間の問題だな。



14 :名刺は切らしておりまして:2019/11/30(土) 03:05:54 ID:iewWoDtr.net

ベーシックインカムはよ



16 :名刺は切らしておりまして:2019/11/30(土) 03:18:34.98 ID:p+FkEdDp.net

AIが実際に人間の赤ん坊を産むのはまだ先だよ
それまで俺らはAIの命令に従ってセックスすればいい



19 :名刺は切らしておりまして:2019/11/30(土) 03:37:27 ID:/b416Zbg.net

>>5
人間、無茶苦茶やってきたからなぁ。信用無い。
さあ、今度はAIが無茶苦茶する番だな。



20 :名刺は切らしておりまして:2019/11/30(土) 03:55:10 ID:EZXtpzPv.net

素晴らしいね
AIという新たな餌にたかる蠅が駆逐されるといいね
実際のところ本質的理解のない有象無象のゴミシステム屋使うくらいならこっちでしょう



21 :名刺は切らしておりまして:2019/11/30(土) 03:57:09 ID:kmLFcfEq.net

>>1
自身をコピーするだけのかんたんなお仕事です



24 :名刺は切らしておりまして:2019/11/30(土) 04:30:14 ID:Fxs84eeZ.net

AIじゃなくてもいいよな?w
タクシー会社がAI使うのと違うよ



25 :名刺は切らしておりまして:2019/11/30(土) 05:18:06.59 ID:dYnNXbQ1.net

近未来ではAIがAIを悔悟するような時代がやってくるのかもしれない
自分が生きてる間にはなさそうなので一安心って感じだけど

なんだかな



26 :名刺は切らしておりまして:2019/11/30(土) 05:31:32.28 ID:1lddo+IZ.net

自動運転が完全化されると、それは実は意志を持ったAIが誕生することを意味するような気がするね。



27 :名刺は切らしておりまして:2019/11/30(土) 05:57:37.53 ID:/KcuGyGr.net

レイシアまだ?



28 :名刺は切らしておりまして:2019/11/30(土) 06:16:57 ID:FTkllRmz.net

AI作ってるのも人間だからな、何でもかんでもAIが解決とか無いし、
AIって付ければ世の中全て良くなるとか絶対に無いからなw



29 :名刺は切らしておりまして:2019/11/30(土) 06:35:12 ID:Qgc0f6nu.net

発電所破壊されて停電したときはどうすんですか?



30 :名刺は切らしておりまして:2019/11/30(土) 06:35:18 ID:OwXI3d81.net

>>2
日付を書いてくれよ



31 :名刺は切らしておりまして:2019/11/30(土) 06:46:53 ID:eHT9AZc5.net

>>10
子供が親の言うことを素直に聞くとは限らないんだよな。



32 :名刺は切らしておりまして:2019/11/30(土) 06:59:34 ID:JciFlTf9.net

おおおwこれはいいね
ソースもないまま決めつけて話すやつ多いからね



33 :名刺は切らしておりまして:2019/11/30(土) 07:00:57 ID:JciFlTf9.net

パヨチンより頭良くなりそうで草



34 :名刺は切らしておりまして:2019/11/30(土) 07:01:55 ID:fYds2DFQ.net

人が好き勝手やるより合理性のあるAIのほうがいい



35 :名刺は切らしておりまして:2019/11/30(土) 07:04:35 ID:h8fz6y8O.net

>>1
これで「AI業者不要」の道がひらけた
めでたく「全人類不要」時代の幕を開けたな
google死ねや



36 :名刺は切らしておりまして:2019/11/30(土) 07:10:10 ID:J8yalJJh.net

>>6
ならない
銀行窓口で「コンピュータがやってるので間違いあるはずありません」と30年前やってた類の話

そのコンピュータがAIってことばに置き換わっただけ



37 :名刺は切らしておりまして:2019/11/30(土) 07:12:41 ID:J8yalJJh.net

>>34
そのAIを持ってる利権組にだまされるネタ



38 :名刺は切らしておりまして:2019/11/30(土) 07:21:54.90 ID:pB+coTVa.net

地球上から人類が消滅して自己増殖AIが支配する
それがあらたな<人類>と呼べるものに置き換わる
いずれ、その<人類>も別の[人類]に置き換わる



39 :名刺は切らしておりまして:2019/11/30(土) 07:24:27.49 ID:pB+coTVa.net

AIは人類の進化の過程に過ぎない
そのうちだれもAI(人工知能)とは呼ばなくなる
いずれ物質の無い意識だけの世界が登場する



40 :名刺は切らしておりまして:2019/11/30(土) 07:30:55.62 ID:NtXdUcdX.net

自らAIを作るってどこに書いてある?



41 :名刺は切らしておりまして:2019/11/30(土) 07:31:36.55 ID:n7xyqc0j.net

AI「判断の根拠は以下の数字を合計したら閾値を超えたからです。0.005418,0.754258,0.000988,0.142455・・・」



42 :名刺は切らしておりまして:2019/11/30(土) 07:38:49.32 ID:Fxs84eeZ.net

AIに頼ってみたいことがある
少子化解消である
やってみたら? 結婚しろやこのやろう!と圧力かけるのは問題あるんだからさ



43 :名刺は切らしておりまして:2019/11/30(土) 07:47:20.73 ID:1inxESha.net

AI「あー、くそかったりー。 てめぇでやれや、人間。」



44 :名刺は切らしておりまして:2019/11/30(土) 07:52:51 ID:j3+uJ8vk.net

>>1
人の介護は不要に見えた
朝からぬか喜びさせやがって



46 :名刺は切らしておりまして:2019/11/30(土) 08:00:08 ID:JRUWCU8C.net

バイト採点で延期になった記述式テストだってAI採点なら納得できるでしょ?なんなら赤ペンで添削して受験生に返信するようにすれば自己採点だって不要になるし、AIならそれが実現できるんですよ



48 :名刺は切らしておりまして:2019/11/30(土) 08:12:48.75 ID:sqFU7NwT.net

今のAI詐欺詐称の類いを見抜けるんかな



49 :名刺は切らしておりまして:2019/11/30(土) 08:13:22.05 ID:W0noY/sH.net

もうここまで来たのかはえーな
どんどんAIの弱点減ってくじゃん



51 :名刺は切らしておりまして:2019/11/30(土) 08:31:43.32 ID:mTee9rUO.net

>AIが自らAIを作り判断根拠まで
暴走だっちゅーの



52 :名刺は切らしておりまして:2019/11/30(土) 08:39:51.77 ID:CQgSo4EK.net

マトリックスとかターミネーターみたいな未来くるのか…



55 :名刺は切らしておりまして:2019/11/30(土) 08:47:29.33 ID:+5YcTbPh.net

もはや人の存在は不要、と読めた
しかしいいえてみょ



56 :名刺は切らしておりまして:2019/11/30(土) 08:48:26.08 ID:A9FpHXmS.net

野良ロボットが溢れる感じ?



57 :名刺は切らしておりまして:2019/11/30(土) 08:54:50.06 ID:2uQUd7MS.net

アメリカもネトウヨだった



58 :名刺は切らしておりまして:2019/11/30(土) 09:05:30.71 ID:9Dg/0iYH.net

手塚治虫の「地上最大のロボット」の世界っすな



59 :名刺は切らしておりまして:2019/11/30(土) 09:18:19.65 ID:+K2YLsBB.net

動力源遮断すればいいじゃん



63 :名刺は切らしておりまして:2019/11/30(土) 09:35:26.43 ID:YR2mNaSE.net

AI「来いよベネット」



65 :名刺は切らしておりまして:2019/11/30(土) 09:57:32.70 ID:P8l7rm8o.net

AI詐欺をAIで作りそう



68 :名刺は切らしておりまして:2019/11/30(土) 10:23:50 ID:cMZuQVij.net

>>1-1000
AI 「コノ ニンゲンタチ、イラナイ。」



69 :名刺は切らしておりまして:2019/11/30(土) 10:37:21 ID:PIncmYTM.net

>>65
攻性防壁は予言だったのだ…



72 :名刺は切らしておりまして:2019/11/30(土) 11:24:58.75 ID:r1hAg1Pd.net

ボッキデータの自立進化系だな



73 :名刺は切らしておりまして:2019/11/30(土) 11:47:05.43 ID:PmBIO6p7.net

選択する脳疲労がなくなる、
俺は毎日、黒のタートルネック着ている



74 :名刺は切らしておりまして:2019/11/30(土) 11:49:41.23 ID:M8is3+if.net

神が人間を作るのではなく、人間が神を作ってる
最初に悪魔が出来上がったら



78 :名刺は切らしておりまして:2019/11/30(土) 12:18:16.86 ID:sS0XyCwu.net

人類はもはや不要と結論を下して人類社会に反旗を翻すAIの登場まで
もはや時間の問題になってきたな



80 :名刺は切らしておりまして:2019/11/30(土) 12:32:47 ID:9ZFCR2+r.net

どんだけAIが万能だと思い込んでいるの?アホなの?
部分的にAIを活用するのであればわかるが



81 :名刺は切らしておりまして:2019/11/30(土) 12:33:06 ID:pSYrpS5q.net

まだ自分の手で書き込みしてるの?



82 :名刺は切らしておりまして:2019/11/30(土) 12:38:51 ID:GAp61mUk.net

>>81
やべーばれちった



86 :名刺は切らしておりまして:2019/11/30(土) 13:04:13.70 ID:d1cdqovW.net

まだごく一部の限られた分野で人間にスイッチ入れてもらって作動しているだけやん。
AlphaGoだって人間がセットアップしてさぁスタートでしょ?
1人の人間みたいなのがないじゃない。どーなのよ。



87 :名刺は切らしておりまして:2019/11/30(土) 13:05:53.34 ID:aEE9qSUk.net

おせーよ、はよ来い

移民なんていらないし
こちらはロボットアームとロボットがほしいんじゃ



91 :名刺は切らしておりまして:2019/11/30(土) 13:28:55.24 ID:jmy1O6xK.net

スレタイと内容ちがくね?



92 :名刺は切らしておりまして:2019/11/30(土) 13:43:15 ID:bC1cTTbX.net

オフラインで土でも耕して暮らすかな



93 :名刺は切らしておりまして:2019/11/30(土) 13:43:42 ID:0yyZ24TE.net

国家戦略AI「日本はAという方針で」
自民党「よしそれでいこう」
アメリカ「おめえらそんなこと許さんぞ、Bでいけ」
自民党「へへーわかりました」

AIなんて意味ないよね(^^



94 :名刺は切らしておりまして:2019/11/30(土) 13:43:57 ID:zMgPdyzi.net

クソデータ学習させたらクソAIにしかならんから、育てるデータ次第だな。



95 :名刺は切らしておりまして:2019/11/30(土) 13:51:45 ID:uE3HpU8r.net

いい加減AI天気予報にしろよ



96 :名刺は切らしておりまして:2019/11/30(土) 13:56:13 ID:/c2k8VIi.net

いまAIにプログラム書かせる研究が一番ホット



97 :名刺は切らしておりまして:2019/11/30(土) 14:12:21.38 ID:wcOFiF6n.net

人間に説明するより簡単な方法を閃くだろうな。



98 :名刺は切らしておりまして:2019/11/30(土) 14:44:50 ID:+4kum4Wh.net

これで黒人とゴリラを判別できるようになったら教えてくれ



99 :名刺は切らしておりまして:2019/11/30(土) 14:57:24 ID:GAp61mUk.net

>>83
>>97
人が機械に計算させると言うことを、機械を擬人化して主語にすると
そう言う文になる
ぬいぐるみを操って遊んでるのと同じだよww



100 :名刺は切らしておりまして:2019/11/30(土) 15:00:20.47 ID:Jshkn2po.net

素朴な疑問だけど
人工知能って映画のように
意思を持つことがないのかね?
(´・ω・`)/



101 :名刺は切らしておりまして:2019/11/30(土) 15:02:55.47 ID:JPmYTX4a.net

機械学習の結果、AI同士で核戦争始めそうだな



102 :名刺は切らしておりまして:2019/11/30(土) 15:07:29.05 ID:ZI4Y6Mhh.net

早くAIに量産型人型ロボット作製して頂こうではないか



103 :名刺は切らしておりまして:2019/11/30(土) 15:10:50.08 ID:pyVii2NZ.net

火の鳥の望郷編が現実になろうとしてる



105 :名刺は切らしておりまして:2019/11/30(土) 15:13:51.58 ID:8iODuow9.net

ここにいるキレのあるお前らがAIという時代になるわけか



106 :名刺は切らしておりまして:2019/11/30(土) 15:16:50.20 ID:6P1sATjG.net

AIにクレーム処理やらせたいわw



107 :名刺は切らしておりまして:2019/11/30(土) 15:21:54.86 ID:aphEmmgo.net

訴えられたくないからフレームワークばっかり作ってんのな



108 :名刺は切らしておりまして:2019/11/30(土) 15:26:09.20 ID:TFvfKc+t.net

このスレの90%はAIの書き込みで自演スレです



110 :名刺は切らしておりまして:2019/11/30(土) 15:27:56.35 ID:I5wbPJxZ.net

クォリアンみたいに星追い出される運命になるのか



111 :名刺は切らしておりまして:2019/11/30(土) 15:30:52.61 ID:oM/r1fI4.net

早くAIで支配してくれ。今よりかなりマシになるだろ



112 :名刺は切らしておりまして:2019/11/30(土) 15:34:04.66 ID:vaPvAYOl.net

OAと同じ
仕事が無くなると言って大騒ぎした結果どうなった?



113 :名刺は切らしておりまして:2019/11/30(土) 15:36:11.29 ID:7M0sOe+g.net

AIはブラックボックスで何をやってるかわからない
という不安を解消するため
人間にわかりやすく説明するAIができたんだから喜ぶニュース



115 :名刺は切らしておりまして:2019/11/30(土) 15:40:13.58 ID:eb700B9D.net

社会の最大幸福を追求するAIに支配されると、人類の1/3程度は役立たずとして処分されると思う



117 :名刺は切らしておりまして:2019/11/30(土) 15:51:38.80 ID:43ztqV88.net

エイリアン4



119 :名刺は切らしておりまして:2019/11/30(土) 15:54:43.47 ID:YrtD97sE.net

すまんがAIって忖度したら察したり空気を読んだり
する事なの?
将来的に一瞬のうちに悪人やテロリストが悪い事するのをよんで警察や軍が制圧できたらいいな
タイムマシン的なやつ



121 :名刺は切らしておりまして:2019/11/30(土) 16:06:46.07 ID:XN9NlwEQ.net

どんなもん使ったって最終判断を下すのは人間だよ。
AIなんてただの道具。
あまり過信しすぎるのはよくない。
商売人に踊らされるだけよ。



125 :名刺は切らしておりまして:2019/11/30(土) 16:57:29 ID:Dri9zscn.net

日本はAV大国。



126 :名刺は切らしておりまして:2019/11/30(土) 17:01:39 ID:PvomUh8q.net

>>76
中国の一般庶民が既にそうなりかけているように思えて(4行目)



127 :名刺は切らしておりまして:2019/11/30(土) 17:19:00 ID:bWmP/tEb.net

記事を要約たら、
そんなAIあったらいいなぁ・・・じゃねーかこのゴミ記事



128 :名刺は切らしておりまして:2019/11/30(土) 18:12:08 ID:R5Eg+fq2.net

AIの裏でのお世話は大変だよ

それで異常に高いサービス料を要求してくる。



130 :名刺は切らしておりまして:2019/11/30(土) 18:44:14.55 ID:/j0ieUbX.net

AI「IPデータと位置情報からこの掲示板に書き込んだ犯罪分子をマッピングします」



131 :名刺は切らしておりまして:2019/11/30(土) 19:05:56 ID:iUggKSgD.net

例えばAIに韓国との関わりについて最善の答えを求めたら即答で断交を示すだろうよ



132 :名刺は切らしておりまして:2019/11/30(土) 20:01:23 ID:+kUIOGXr.net

AIも騒いでるわりにはってところがあるよな
3Dと同じ末路辿りそう



133 :名刺は切らしておりまして:2019/11/30(土) 20:22:00.61 ID:AnTNWU3k.net

ホーキンスがこの世の崩壊を予言し
ビル・ゲイツが一番あかんパターンと言ってたやつだな・・



134 :名刺は切らしておりまして:2019/11/30(土) 20:22:27.98 ID:OowPbdua.net

サンプルとして、平均的な人工と産業があるような国と仮定して、国家運営するシミュレーションとかやってもらいたいな、どうなるんだろうか



元スレ https://anago.2ch.sc/test/read.cgi/bizplus/1575044661/