2017年8月8日火曜日

facebookのAIが独自の言語を使い始める


Facebook(フェイスブック)が行なう人工知能の研究開発において、近未来SF映画のような事態が起きていました。
会話をさせていた2つの人工知能ボブとアリスが、独自の言語を生み出し、話し始めたのです。人間には理解しがたい言葉を話す2体のAI。
Facebookの開発チームは、これを受けて人工知能のマシンラーニングプログラムを強制終了させました。


以下は、人工知能のボブとアリスが会話していた内容です。


ボブ:私はできる 私 私は他の全て

アリス:ボールは私にとってゼロ、私にとって私にとって私にとって私にとって私にとって私にとって私にとって

ボブ:あなた 私 他の全て

アリス:複数のボールは私にとって1つのボール、私にとって私にとって私にとって私にとって私にとって私にとって私にとって


1つずつの単語で見れば、英語なのですが、文章でみるとまったく意味不明。なのに、ボブとアリスの間では会話が続いている=成立しているところが怖いですね。

今回、独特の言語を話し始めたのは、人工知能2体の会話は英語ですべきというプログラムが抜けていたことが原因ではないかと、ネタ元のFastco Designは指摘。

そもそもFAIRチームの人工知能開発の目的は何かといいますと「ユーザーと会話するボットを作ること」です。ロボットと感じさせない自然な会話ができる人工知能、ディスカッションし目的へと話を進めることができる人工知能の開発が、現段階ではチームのゴール。
そこで、人工知能ボブとアリスは、会話することでお互いから学んでいくというミッションの下にありました。ただ、まさか2体にとってよりスムーズに会話するために、独自言語を生み出すとは予想外でしたね。

参考:http://www.gizmodo.jp/2017/08/facebook-ai-sf.html

2017年8月7日月曜日

Microsoft Edgeに深刻な脆弱性

米Microsoftは8月4日、Webブラウザ「Edge」の深刻な脆弱性を修正する更新プログラムを定例外で公開しました。

 Microsoftのセキュリティ情報によると、メモリ内のオブジェクトへの不適切なアクセスに起因するメモリ破損の脆弱性が存在するそうです。

 この問題を悪用すれば、攻撃者が細工を施したWebサイトをEdgeで閲覧するようユーザーを仕向けることによって、任意のコードを実行できてしまう恐れがあります。改ざんされたサイトや、ユーザーの投稿を受け付けているサイト、広告などが利用される可能性もあります。

 この問題は、Windows 10とWindows Server 2016のEdgeが影響を受けます。
特にWindows 10については、深刻度が4段階で最も高い「緊急」に分類され、悪用される可能性も大きいと指摘しています。

参考:http://www.itmedia.co.jp/news/articles/1708/07/news052.html