嚮往的微軟小冰，可能存在風險的人工智慧
2013年12月18日在美國上映的電影《Her》裡面，男主在結束了一段令他心碎的愛情長跑之後，愛上了電腦操作裡面女聲，陷入與AI戀愛的泥沼無法自拔。這部電影獲得了2014年第86屆奧斯卡最佳原創劇本。
巧合的是，微軟小冰的第一代釋出時間也是在2014年。2014年5月29日，微軟人工智慧小冰正式釋出。在釋出後沒多久，在微信群裡“調戲”小冰成為時尚，微軟第一批發布的10萬個小冰賬號在當天就被全部認領，結束後依舊有數萬人排隊等候認領。
近日，在“第七代微軟小冰釋出會”上，微軟小冰團隊公佈了Avatar Framework的第一個工具包版本，它能夠讓每個合作伙伴、每個個人消費者都創造屬於自己的“小冰”。
從2014年到現在，微軟小冰一路升級最佳化，堪稱是在目前最能滿足人類對未來嚮往的智慧產品之一，確實做的非常優秀。未來，或許會像電影《Her》所描述的那樣，現實中真的可能有人愛上善解人意的小冰。
可是，在美好的同時，越來越聰明，越來越像人的微軟小冰也可能存在風險。能夠足夠擬人化的微軟小冰如果再進一步最佳化，會否存在一些風險？微軟對此究竟是否有應對之策？短期在B端的微軟小冰會深受企業和個人的喜愛，但選擇開放的背後，微軟小冰一旦能被中小企業和個人使用，微軟小冰會不會失去他的美好屬性呢？
微軟小冰五年
從
“
智障
”
到
“
高材生
”
的完美蛻
變
在大眾眼中，微軟可能一直是一個不苟言笑的大叔形象，可就是這麼個嚴肅的大叔，卻在五年前推出了一個16歲的清新萌妹“小冰”。
最開始，與其說“小冰”是一個智慧機器人，不如說“智慧語音助手”更為貼切。當時人們對於“人工智慧”的概念多停留在IQ層面，利用AI創造一些知識性功能。當時微軟卻決定研究發展AI智慧的另一個維度——EQ維度，即情感方面。
雖然在2014年5月29日當天，“小冰”一經發布就火速被認領完畢，但還是得承認，初代“小冰”的確存在很多槽點。前言不搭後語、聲音僵硬，就是一個簡單的搜尋模型，基於一些文字資料與使用者進行對話，於是有網友直接吐槽這是“人工智障”。
緊接著，一個多月後，微軟就推出了二代小冰。“小冰”二代擁有了區別其他語音助手的“主動情緒探索功能”，可以說是真正具有了“情商”的機器人。這次微軟採取的是跨平臺戰略，即與各大社交或者電商等平臺展開合作，上線小冰機器人，如微博、京東等，雖然二代小冰還是隻能與使用者進行文字交流，但還是被50萬用戶一領而空。
首次能夠開口說話的是第三代“微軟小冰”。2015年8月20日，微軟小冰團隊釋出了第三代人工智慧小冰。這一次，小冰解鎖了包括視覺、聽覺在內的人工智慧感官系統，結合情感計算技術，能夠用更加逼近人類的方式，透過自然語言和使用者進行交流。現在，小冰的唱歌水平已經十分接近人類歌手的唱歌質量。
值得一提的是，第三代小冰擁有了“自學”功能，小冰自己會在對話中進行資料文字的收集和分析，讓自己的反應更能符合對話使用者的需要。使用者與小冰聊得越多，就會覺得小冰越懂自己。
到了第四代，微軟小冰已經可以給人類打電話，在聊天期間，會打斷和問詢，讓聊天過程更趨近與人類的的聊天模式，完成流暢的對話交流。其中的一大亮點，就是小冰當時擁有了實時決策能力，微軟小冰團隊開發了具備實時情感決策的對話引擎，升級的情感計算框架。這樣一種新的全時感官，讓人類和人工智慧之間做到了雙向同步互動。
在2016年的9月17號，小冰更新了三個新科技：推出日文單曲，擁有獨立三觀，給人類打電話。
2017年5月19日，微軟小冰出版詩集《陽光失了玻璃窗》，本囊括了139首現代詩的詩集，全部由第五代微軟小冰創作。其中有一句詩是這樣寫的——“樹影壓在秋天的報紙上，中間隔著一片夢幻的海洋，我凝視著一池湖水的天空。”不得不承認，一些人類創造的詩句都沒有小冰寫出的詩句那樣的畫面感和詩意。這時候的小冰，已經具備了人工智慧創作功能。
直到去年，小冰成長到了第六代，已經越來越像一個“人”。在跟使用者對話的過程中，不僅可以自創迴應，基於共感模型，還能夠透過求證等手段來控制聊天程序。
最近，微軟小冰團隊又釋出了小冰七代。
截至目前，小冰已經做過電視臺主持人，報紙專欄的特約記者，作為歌手還發布了自己的個人專輯，還寫了一本詩，甚至還舉辦了自己的個人畫展，擁有自己設計的服裝品牌。
可以說，微軟小冰的五年，實現了普通人類一輩子都可以做不到的事情。
從早期聊天機器人的智障，不完善卻新鮮的智慧聊天機器人被大家調戲、玩樂，堪稱智障，到如今能夠轉化多種身份掌握多項技能，並且能力還比人類的效率高太多。不得不說，五年的時間裡，小冰實現了從“智障”到“高材生”的完美跨越，從走出國門到走出亞洲走向全球化，並且未來肯定會更加聰明伶俐。
從相對封閉到大開放
人工智慧的潛在
風險
8月15日，在“第七代微軟小冰釋出會”上，微軟小冰團隊宣佈會要開放Avatar Framework的第一個工具包版本，預計明年春季釋出面向個人使用者的版本。
這符合微軟小冰團隊一貫以來的“第三方平臺戰略”。此前，微軟小冰團隊明確表示不會推出小冰的第一方產品硬體或者APP之類，而是做一個第三方服務平臺。現在開放Avatar Framework，更是小冰邁向平臺化的一大步。
資料顯示，小冰團隊釋出的Avatar Framework，是一個擁有完整工具包的通用型AI框架。基於Avatar Framework，可以從人格的構建開始，完整地創造出一個人工智慧助理虛擬人物或其它型別的機器人。
微軟小冰在基於不同國家推出的小冰產品中，核心也是在基於這個框架在進行最佳化。這個框架的開放，意味著微軟把造小冰的能力開放出來，小冰不再只是可以由微軟製造，合作伙伴甚至個人也都可以定義一個網路上的智慧虛擬人物。
這聽起來其實挺美好，就像微軟沈向洋所說的那樣，“小冰和框架之間是這樣一個關係。如果說小冰單獨一個應用，她的價值是1，那麼這個框架的價值就是1000、10000，甚至是無窮大。”
但從樹木到森林的過程，人人都能建立 AI 角色的背後，對於人類來說卻存在著不小的風險。這個危險不是向電影裡面機器人想要顛覆人類對地球的掌控權，因為目前微軟小冰以及機器人產業也遠未到達那麼智慧的時代，確實說起來有些為時尚早。
只是，開放的背後，尤其是個人版的推出，這是很有可能會給很多公司甚至個人提供更多作惡的機會。
以前網際網路上有句話叫“你永遠不知道網路的對面是一個人還是一條狗”，當每個人都擁有自己微軟小冰的時候，你甚至都沒辦法確定網路對面究竟是生物還是機器人，因為這個機器人在記憶力、檢索能力方面都要比人類更強，人類甚至無法達到機器人聊天的反應能力以及幽默程度，可能與機器人聊天會比與你物件聊天還要快樂，這實在有點細思極恐。
對此，微軟李笛也提出，人工智慧最大的風險來自於代位，即成為某個人的替身，而微軟小冰絕不會做出此類行為。“比如說我把你的聲音模擬出來，給你的家人或朋友打電話，那這事就很麻煩了。我可以確保我的系統是穩定的，確保任何針對普通人的建模是我們拒絕的。”
確實，我們或許可以相信微軟，但是當這個開放給廣大個人和大量中小企業的時候，這是否會有漏洞可鑽讓他們用於他處呢？這確實很不可控。
人工智慧應用的潛在風險
科技始終是一把雙刃劍，當人工智慧發展到一定階段，就不得不面臨一些道德倫理問題，就像著名電視劇《黑鏡》裡面所探討的，科技帶給人類的，除了便捷、美好，還有可能是人類難以想象的深淵。
前段時間，以東南亞地區為主的發生的人們津津樂道的“殺豬盤”背後，其實就有人類利用人工智慧實施詐騙犯罪的影子。
現在國家重點打擊的電信詐騙，就跟人工智慧脫離不了關係。很多的關於電信詐騙曝光的報道中，就提到了犯罪團伙利用人工智慧蒐集資料、受害人資訊，實施更準確的詐騙行為。
而當聰明的機器人被利用到電信詐騙當中的時候，如果人工智慧能夠模仿某個人的聲音，給這個人的家人或朋友打電話，甚至聊的內容都基於平時的資訊記錄進行匹配，那麼有可能這個人的家人或朋友就會上當受騙，因為人工智慧說不定能夠做到以假亂真，人們很難分辨這究竟是人類還是機器人。
現實表明，目前儘管很多人聲音、說話、套路很明顯，但依然會有很多人上當受騙。
而對於實施詐騙的人來說，人工智慧無異於是他們的“得力助手”同時，這些人工智慧機器人能夠及時地基於市場最有效的詐騙套路、話術去結合模擬相關真人的方式，持續地去進行發酵，讓詐騙模式更加先進、成熟，從而導致更多人上當受騙。
在電信詐騙之外，利用人工智慧實行網路詐騙的案例也層出不窮。在知名商業題材電視劇雞毛飛上天中，陳江河小兒子陳路在小學生階段，透過自己編寫的網路軟體模擬一個成年男人與一名女網友見面的場景很多人還歷歷在目。現實情況下，一些婚戀網站模擬機器人進行聊天，然後誘惑使用者進行充值實施詐騙的案例也頻繁多件，每年總有幾起類似的案件會出現。
當人工智慧在處理情感上已經越來越像一個“人”，如果成為一個個個體，活躍在各個網路平臺，QQ、微信、婚戀平臺，模擬其主人的身份去活躍，就很容易給讓這些網路聊天更加逼真，更好實現詐騙。
在很多人感覺已經沒有了隱私的網際網路時代，人工智慧給人們帶來的可能是毫無隱私可言，甚至利用隱私犯罪。今年九月，浙江就抓獲了一起利用人工智慧竊取公民個人資訊倒賣案件，涉及43個犯罪團伙。
在除了一些人主動利用人工智慧實施的犯罪以外，人工智慧本身也存在著一定的缺陷和漏洞，比如把機器人接入車載系統，在聊天互動的過程中，可能就會導致駕駛員無法專注開車而發生車禍。而無人駕駛車交通肇事、機器人警衛誤傷小孩，這種情況也是時有發生。
從使用者角度而言，過度沉迷於與人工智慧的交流，可能會讓一些人失去現實溝通的能力，沉迷於網路虛擬世界，而忽視了與身邊的人的溝通。在電影《Her》裡面，主人公就是沉溺於與機器人的戀愛，難以迴歸現實生活。
整體來說，人工智慧的出現可能是人類和科技進步的一個表現。面對這種潛在的風險，微軟（亞洲）網際網路工程院副院長、小冰團隊總負責人李笛在《深度學習》一書的序言中稱：“
在微軟，我們成立了與人工智慧及倫理相關的組織，力圖在當前的框架內去發現儘量多的問題，儘可能在早期就避免問題的發生。微軟在人工智慧領域的技術和產品線很廣泛，因此我們做過的抉擇也相對較多。這些抉擇往往決定了我們在有能力的情況下，主動放棄去做什麼。
這意味著剋制與敬畏之心。例如：微軟小冰在兩年前推出擬人的全雙工語音電話技術（Full Duplex）時，我們就制定了該產品的倫理規則，不允許在使用者不知情的情況下，讓小冰偽裝成真人去撥打電話。我們也不使用微軟小冰的技術去從事呼叫中心的外呼業務，因為它存在被濫用為垃圾廣告電話的風險——儘管這些往往意味著巨大的商業價值。這種剋制，不僅僅是一兩家企業的責任。它依賴於整個社會對人工智慧，特別是深度學習相關技術的瞭解。”
文 |小謙，小謙筆記創始人，網際網路觀察員，數十家科技媒體專欄作者，微信請聯絡net1996，轉載請註明版權
