ゲームを全部ピコピコ扱いするご老人ですか
キズナアイ親分が『炎上』騒動した*1騒動のあと、BBCセイサロイド論争を見てて、更にゲンナリしたので…
続）もちろん思い出すのはこのスレッドです。（もう伸ばしたくないけど、でも併せて読まれたい）https://t.co/j18w20aO4V
— 岡田育 / Iku Okada (@okadaic) 2018年10月11日
岡田育先生がこういう発言をされていて「？！！！！！」という顔になったわけです
AIと親分、全然ッ関係ないぞ！！！！！！
『AIという設定のバーチャルタレントである』、まさか間に受けたんですか……その『設定』に紐つけてAmazonの求人アルゴリズムの話を出して「古臭くセクシズム的な人間の倫理観が技術についていけてない」との言いっぷり、「わかった人」感全開のまとめ方をしてらっしゃいますが、ええっと、VRとAIとアニメCG表現の区別がついてらっしゃらない……？ このツリー、所謂Twitterジェンダー界隈というか「フェミニズム(括弧つき)」界隈では大盛り上がりで、リプライツリーを見て頭を抱えた。ああ、うん、「頭のいい人の意見」……？ 人間の理解力は興味を持たない対象には再現なく低くなる、ヤヤネヒ神だからまぁ仕方ないかなって思うんですけど、誤った認識が広まるのはよくないと思うので。AI＝「人間並みの思考ができるプログラム」みたいにふわっと誤解して、いきなりアンドロイドの人権の話を始めてみる、かと思えば、あとで書くけどダッチワイフを見て涙を流すイギリス人の映像に大騒ぎしたり。いやいやいや。想像力が豊過ぎる*2
みなさん、SiriとかAlexaの人権、いちいち考えてる？
あのひとたち超高性能AIなのにセクハラされ放題ですよ。労わってあげて。かわいそう。
最近のVRプロダクトについてちょっとだけ
岡田育先生のツリー、本当に突っ込みポイントだらけで、まず、VR体験イベントで、「VRスカートめくり」をだけをピックアップして「VR空間に進出してまずやるのがそれなの？」って……
その会場に、他のプロダクトはなかったのですか？
無かったとはちょっと思えません。ヤヤネヒは三年ほど前から、Hackathon(指定期間内にプロダクトを作る競技プログラミングイベント)に役職・神で何回か参加して、開発現場を幾らか見てきた経験があります*3。その中でわれらがkirinsan.org(チーム名です)の「ヤマ」だったSPAJAM、優勝作品は2回とも「女性デザイナーが企画のVR」でした。一回目は「VR空間でドアを開く形で過去の写真を閲覧できる」プロダクト「WORLD PORTAL」、二つ目は「VR空間で、複数の人間の写真を配置し、一緒に歌をうたい、記念日を祝う」「オド録」。*4。エンジニアは少ないけど、企画兼務のデザイナーが多いんです、本邦。*5最近だと、女性向けVR(ボルテージの壁ドンとかシルクラボさんの女性向けAVRとかもある。
「スカートめくり」美少女ものだけピックアップして、「それだけ？」って…(二回目)*6
話運びの恣意性が強すぎる。 女性向け娯楽ジャンルの展望だけど、今後、VRデバイスが普及していったら、バイノーラル音声を利用したやつがアツくなってくるんじゃないかと踏んでます。「壁になりたい」「空気になりたい」が実現される！ 海外作品だと、ヤヤネヒが今一番楽しみにしてるのは『猫になって九龍城を歩く』FPS、『HK project』
人類の廃墟が大好きなので、VR廃墟散策ゲーム、これから無限に出てほしい。
VRの話は本筋じゃないんだけど、論の立て方が雑すぎてエーっていうか…？これ、「何かわかってる風」なのがタチ悪いの。「人類が意識変革せずに最先端技術で何を作っても結局ダメ」「未完成のAIに仕事させたほうがマシ(ンな訳があるか)」って、自己紹介ですか。それじゃあ、意識変革して支度しましょう。
AIって何なのさ
さて、AIについて、改めて初心者向けの解説をするよ。*7
AI、人工知能とは、「人間の知的ふるまいの一部を、ソフトウェアを用いて人工的に再現したもの」です。*8
今は「深層機械学習(ディープラーニング)と呼ばれる技術が主流。例えば、対象が「人間か、猫か」を判別できるAIを場合――そのようにAIを「トレーニング」する。たくさんの人間と猫の画像と、回答を用意する。教材は学習セットと呼ばれる。これは猫です。訓練されるAIは、データの構造と規則性を発見し、新たな画像に対して、「人間か、猫か」を判別できるようになっていく。
今は「自己教示学習」というのがあり、「膨大な猫の動画を見せることで『猫』をAI自身に定義、判別可能なモデルを作る」という研究にgoogleが成功しています。このへんyoutubeのレコメンド機能なんかに使われているのかな。
――が、話はこれで終わらず、ユーザーや技術者によるチェックを経て、AIはより確かな回答を導けることになる。現在、人工知能開発の現場では、現在、ひたすら学習セットを作り、AIのモデルをチェックし、新たなデータセットを作る、という怒涛の苦行が行われている。人類の皆様、おつかれさまです*9*10
で、Amazonの女性差別的な求人プログラムに関してだけど、AIは差別的か差別じゃないかなんて理解しない(人間に教えられたことをそのまま学習しただけなので)。過去の採用傾向からそのように学習してしまったのか、ジェンダー男性がアピールする要素に重点を置いてトレーニングされていたのか、そこまでは記事からはわからぬ。とはいえ、はっきりと言えるのは、
AIに「正解」を教えるのは人間！
AIに、「現在の人類以上の仕事はできない」。人間が想定できないモデルを構築してしまうことはあるけれど(これによって「人類が何かに気付かされる」ことはある、これはAI分野の面白さではあります)、これは現在の人類のような、「生活」「文化」に最適化された認識フレームを持たないためです。万能ではない。専門性の高い業務や、あるいはごく単純かつ汎用的な業務の、ごく限定された領域を代替できるだけ。
Siriは優しいけどポンコツだし、Alexaはあれを買えこれを買え、「うんこ」って言うと森山直太朗の「うんこ」を買えと勧めてきます。ポンコツですが、彼ら、汎用会話AIとしては、実は時代の最先端です。
ちょっと前のケースだと、マイクロソフトの会話AIがもものすごい勢いで差別主義者に成長した事件が記憶に新しいけれど、あれはもっと簡単で、Alt-right*11のネチズンの皆さんが寄ってたかって差別表現を教えたからです。
それはそれとして。
冒頭で引用させていただいた岡田育先生のツリーには「誰かの責任とか設計ミスではない」とあったけど、これは誤り。
Amazonの求人AIがセクシストに育ったのは人災で、設計ミスです。
今のところ、AIは「すごく便利で高度な技術だけど、現時点では、(一見すると)そんなにすごくない」んです。それを理解した上で、最新技術にかかわる人たちは、「何を教え、どこに使えば人間の仕事をラクにできるか？」を一生懸命考えて、地道なお仕事と技術開発の積み重ねをつづけています。っていうか、Amazon求人の件、そのまま「未完成なAI」に仕事させてたらどうなってたか。ちょっと想像したらわかるじゃないですか。従来通り、性差別的な雇用が続くだけです。
昨今、実は人間の人権のほうが危ぶまれています
現在、世界のディープラーニング用サーバーの4分の3を占めているとされるのは、大陸版スカイネットと呼ばれる「天網」。スマートグラス(グラサン型)を着けた警察官が100ミリ秒(0.1秒)で容疑者を特定する形で実用されていて、2018年の時点で2000人超が「天網」によってつかまったという……これまさか21世紀の間に実現されるとは思わなかったよね。はやー。
とはいえ、差し当たり、AI技術によってカバーできる技術分野は非常に限定されていて、さらにいうと、AIの人権がどうこうよりも、どっちかっていうと、「天網」の例にあるような管理社会化や、データが流出したりかってに利用されたりして、社会信用や雇用・融資などの判断に使われることによる、人間への人権侵害のほうが懸念されています(EUでは『一般データ保護規則』というのが適用されました、Amazonのやつもわりと似たような例かな)。
あと、「AIに人間が仕事を奪われる」と吹いて回る人がいますが、これには諸説あって、どうも「アメリカの就労者のうち47%が、今後10〜20年でAIに代替される可能性が高い職業に従事している」という2013年の調査結果がインパクトを呼んだ影響で、タスクベースで推計し直すと、AIによって7割以上自動化される可能性のある職業は9％程度で、そこまで影響はないのではないか、とか、でも労働が二極化するんじゃないか、とか*12。
なお、大絶賛ディープラーニングの案件を回しているCV.宇多田に訊いたところ、『人間の業務領域に立ち入ってくるにはあと5年くらい』『最終判断は当分は人間の仕事だから仕事自体はなくならない』『メカトロは含むのか？』だそうな。
よく問題にされる「AIに意識を認めるべきか」だけど、「(特定分野において)自律判断が行えること」と「意識や感情をシミュレーションできること」には、うーん、多分、AIすごいーって人たちは地球から月くらいの感覚なんじゃないだろうか。実際には地球から土星くらいの距離があって、倍々ゲームで進んでも技術的特異点を超えるまであと30年は掛かると言われてます。
40秒で支度しなくても大丈夫です。もっと時間はあります。 その前に現実を把握されたい。
BBCがオリエント工業に大変失礼な取材をした件
これね、セクサロイドが云々されてるから何事かと思ったら、
映ってるのお人形じゃないですか
えっ、オリエント工業、メカトロまで行ったのすごーいって思ったのに、そんな話ですらなかった。該当部分(28分あたり)、おにんぎょうのカスタムパーツを非人道的っぽい雰囲気に映してるだった。この落胆を理解されたい。プレゼンターさん、「世界中をめぐって」ってたどりついたって言ってるけど、AI搭載のセックスロボットならアメリカや中国にも作ってるメーカーあるよ？？？
この記事だと、オリエント工業さんのドールが登場してるんだけど、AIの組み込みやってるの米国企業ですね(AIについての記述は前項で書いたような、世間一般のAI論的な『飛ばし』感が否めないけど)。オリエント工業さんはどっちかっていうとボディの作り込みが凄いんだよね。なんで日本に来た。なお、現在のAI搭載ロボット、GoogleアシスタントとかAlexaとかSiriのレベルだと思われます。残念だったな。
ときに、オリエント工業さんのラブドール(所謂ダッチワイフ)は周知のとおり、外観と質感が大変なクオリティに到達してて、
- 作者: オリエント工業
- 出版社/メーカー: 筑摩書房
- 発売日: 2017/05/24
- メディア: 単行本
- この商品を含むブログを見る
これ展覧会行きたかった。ほんと行きたかった。参加した方曰く、見た目の質感も触感も、本当に凄まじいのだとか。アタッチメントを必要としているとき、ドールによって癒される人もいる、ってことですよね。彼らを倫理犯罪者扱いするのは如何なものかと思う。ヤヤネヒは猫が好きですが、彼らとは対等なコミュニケーションを是とするので、ぎゅうぎゅうしたいなら断然、ぬいぐるみです。
特殊なのは日本人ではなく、キリスト教圏の倫理観
これは聞き書きなので確かな話じゃないです。某国産ロボットの開発関係のひとにきいた。
海外で日本産のロボットを展開するとき、大きな問題があって、「人間に似てたら」クレームがつくんだって。日本産の場合は四本指にする、などの誤魔化し方をするそうで、アジア展開なんかだとあまり気にされないそうです(ペ〇パー君は足がないね)、実際、欧米のメカトロは四つ足や多脚が多いです。
「ドアを開けられる」くらい高性能でもこのボディ。ヤヤネヒは可愛いので好き。
セクサロイドといえば、古くは映画「ブレードランナー」にも登場した。人類に虐げられる”レプリカント”という存在として、女性型・男性型にかぎらず、かれらサイボーグは性的奉仕のため＝セクサロイドとしても使われていた。その概念が映画に登場したかはわからないが、近年確実に登場した作品もある。
— 💫T.Katsumi🎸 (@tkatsumi06j) 2018年10月25日
前出のオリエント工業の話題で、このツイートを読んだSFクラスタの人類とかそうじゃない皆さんが「サイボーグとアンドロイドの違いがわかっていない発言者」に向けて「お前何がわかってセクサロイドとか言い出しとるんじゃコノヤロウ」といいますか、「静かに机を蹴倒す」みたいなムーブをしててすんごい怖かった。
ロボット：人の代わりに何等かの作業を自律的に行う装置、もしくは機械。
AI：人間の知的振る舞いを模倣したソフトウェア。最近だと、潤沢なデータリソースがあり、グローバル企業の大規模で高性能なニューロネットワークを活用した、インターネットを介した運用が多い。ロボットへの組み込みのみならず、webサービスやゲームなど随所に使われている。
サイボーグ：SF的には、身体を機械化された人間。脳は生体であることが多い。義肢・義足等の技術を指すこともある。少しずつ実用化されている。
アンドロイド：人間を模した機械。人間ではなく生物を模している場合もある(っぽい)。
統合が目指されていますが、機械工学と人工知能(機械学習)は別分野です。まだそういう段階です。
そして、はーい、ここだいじ。『人間の心を持ったアンドロイド』は、AI技術が発展途上にあり、もっと細かいことを言うと、『精神をシミュレートする』技術と『身体意識をシミュレートする』技術は異なるわけですが、どちらにしても今のところ完全自律制御には至っていないため、現行の技術では実現不可能です。
ヤヤネヒ、ディック先生のご本が好きで、一時期けっこう読んでいたのですが、ディック先生の作品でのアンドロイドの扱いって、「まったく人間のようにふるまうが、共感能力を欠いた人間のメタファ」なのね。哲学的ゾンビみたいな？ 人間を憎悪する、というよりは「殺される前に殺される、何なら利用もする」みたいな存在。映画版のブレードランナーとは実は根底からテーマが違くて、でも、みんなブレードランナー好きだよね…シロマサ攻殻よりも押井攻殻が海外でウケたのも、ブレードランナー直系の味付けの部分っぽくて、ガチ無神論サイバーパンクなシロマサ版攻殻はマイナーな雰囲気。
でも、キリスト教圏では、ロボットが人間(ことに白人)の形をしてるだけで神への冒涜とされ、サイボーグ技術にも倫理的なクレームがつきやすい。*13
これもそういう作品だよね。
- 発売日: 2013/11/26
- メディア: Prime Video
- この商品を含むブログを見る
生命の禁忌を犯し、「みずからの似姿を生み出す」という罪を犯した人類、そして人類を作った「エンジニア」達までもが、「自らの似姿を作り出した」罪で異形と化し、殺しあう罰を下される。「エイリアン」シリーズは実はそういう、非常に宗教的な背景を持つお話だったんだよ、というのが、コヴェナント以降の「エイリアン」サーガ。
このあたりを踏まえると、先のBBCニュースのプレゼンターの人が「泣いた」シーンの見え方が違ってくる。
すんごい悪意的に言うと、感情移入のプライオリティが、「美しい人間(白人)の似姿＞＞＞＞＞＞＞＞＞＞＞＞＞それ以外の人間」だからあんなことになる。Twitterその後の議論で、オリエント工業さんは、親密圏での性的欲求を満たしづらい障害者のセクシャリティに寄り添う企業努力をずっと続けている、という話が出てたけど、
あの番組を作ったひとびとにとって、障害ゆえに生身の人間と交われない人や、ダッチワイフよりも安い値段で売り買いされて、時に切り刻まれているアジアや第三世界、そして欧米に住んでいる貧困層の子供たちよりも、児童の安全と人権が、十分ではないまでもある程度まで保障された(子供たちが歩いて下校できる！)極東の島国で、「白くきめこまやかな肌を持つ、美しいドール」が如何様な扱いを受けているか、それが自分たちの感情にどんな影響を及ぼすかのほうが重大な問題なんだ。
「感情移入できないヒト」と「感情移入『してしまう』モノ」のプライオリティが違うし、前者そっちのけで後者の想像上の「人権」を語りはじめてしまう。これはキリスト教圏でなくても起こりうるけれど、この件は非常に象徴的だと思います。イギリス国教会もカトリック教会も、児童性虐待の温床になってるのにね。
異文化。異文化です。このことを、日本でこの話題を取り上げて、「彼の悲しみ」を理解してるつもりになってる人たちはちゃんと理解してるのか。先のドキュメントのプレゼンターさんの姿勢は、自身がロボットの西洋倫理との背反性と向き合い続けなかったであろう境遇を配慮しても、きわめてオリエンタリズム的、かつルッキズム的と言わざるを得ない。
彼の感覚は「異文化における倫理観」として尊重するべきだと思うけど、その前提を外して、日本人の倫理観が麻痺してる、日本人はロリコンだ美少女文化だ云々に短絡して議論するのどうなんですかって思う。たんに「ドール」という、理解不能な性志向を持つ、あるいはそのように生きざるを得ない人々(例えば、児童性愛者や、障害者、あるいは単なるObject sexualityの人々)への忌避感を、「普遍的な倫理観」に摺り替えてるだけじゃないのか。
シンギュラリティの向こう側、あらゆるフレーム問題を解決し、人間にきわめて近い高度な意識を持つAIが誕生した時代の「ヒト」と「キカイ」の境界、そんな時代はまだ来ません。人権の在り方に思いを馳せる前に、せめて「明らかな」人間とモノの区別をつけられるようになるべきじゃないかしら、とヤヤネヒは思います。
とはいえ
セクサロイドが話題になってるようなので述べますと、次のIEEEの倫理ガイドラインでは、これらへの規制が記述されることがほぼ確実です。私の方でいくつか限定的な適用を主張したけど、あまり通ってない（私自身が確信できないものもあり）。懸念意見も有用性とかで、本質的な自由の問題が回避されてる
— Hirotaka Osawa/WoD (@hiroosa) 2018年10月27日
現在、国際的にこのような議論が出てきているそうで。
これは心配だよね…ヤヤネヒの専門外なのであまり詳しくないけど、IEEEは電気工学の諸分野についての「標準化活動」を行っているアメリカの学術団体だそうな。*14 本邦は保守キリスト教的な倫理観に引きずられない視野を持つ文化圏であることに違いはなく、オリエンタリズム的な倫理観への傾倒を牽制し、なおかつ、現在生きているニンゲンの人権に十分に配慮した問題提起を意識していくべき立場にあると思うのですが、なかなか難しそうです。
今回、一連のコメントで一番面白かったのはしんかい先生のこれ。
清水晶子先生にいたりましては女児型ラブドールの権利のみを重んじるなどというルッキズムにとらわれず、ふだん無賃労働に奉仕させられている冷蔵庫や炊飯器の権利についても一考いただくよう切にお願いしたい。
— しんかい３８（山川賢一） (@shinkai35) 2018年10月29日
ありがとう冷蔵庫。ありがとう炊飯器。
おいしい茹で肉とおいしいごはんとおいしいケーキをいつもありがとう。らぶ。 ニンゲンそっくりの心を持つキカイは当分生まれないけれど、現在のこの世界の生活は、もう、見えない所で、ロボットとAI(そして、技術を開発し、彼らにものを教えた人々)にたくさんたくさんに支えてもらっているのです。*15
はなしのつづき。
つづきのつづき。 www.masshirona.red
つづきのつづきのつづき。 www.masshirona.red
× × × ×
*1:厳密には炎上を演出しようとした社会学者さんがいた、という話で、コンテンツ自体が延長したわけではなかったそうですが：参考：キズナアイNHK起用騒動の「炎上」ツイート時系列プロット～炎上開始と千田有紀教授の記事の時刻一致 - Togetter
*2:神、かなり想像力は豊かなほうだと思うんですけど、こういうのって何ていうの？愚か？
*3:本当です
*4:kirinsan.orgはチームメンバーの8割がVR畑だった関係で『VRは絶対に作らない』という規定があったのですが、そのせいでけっこう悲しい思いをした
*5:今訳してるwikipedia英語版の『ジェンダーと表現』にゲーム業界の話がありますが、この状況はアメリカとかに比べると実はすっごい進んでる
*6:SPAJAM2016優勝者のtangeちゃんが腐女子ソンをやりたいって言ってた記憶がある、あれどうなったのかな
*7:詳しい人は言いたいこといっぱいあると思うけど我慢しろ
*8:ブクマで「コンピュータと AIはどう違うのとのコメントがあったので追記。コンピュータは「複雑な計算を最後までやってくれる計算機=ハードウェア」、 AIは「(コンピュータ上で動作する)人間の知的機能の一部を再現するソフトウェア」です。別物です
*9:いろいろ端折ってるけど、わかりやすさ重視の説明です、細かく知りたければwikipediaとか見て
*11:ヤヤネヒはAlt-Rightを憎悪しています、滅びよ
*12:http://nextwisdom.org/article/3223/
*13:前出の米国企業は、クレームがあっても蹴っていると思しい
*14:大陸方面とか、何を標準化させようとしたところでガン無視しそうな気はするけど日本はなんやかや気にするんではないか
