- $
為什么人工智能需要安全管理安全問題也需要人工智能輔助
來源：vtr11.cn 發(fā)布時間：2021年06月24日
下一代人工智能將得以普及。這就意味著，人工智能應用不再僅限于微軟，谷歌，蘋果這些大型公司內(nèi)，任何規(guī)模的公司都可以接觸到人工智能。擺在我們面前 就有一個這樣的機會，無論是對于大型公司，中性公司，還是小型公司來說，可以利用人工智能重整我們的商業(yè)運行模式。
現(xiàn)代人工智能技術(shù)在語音識別，圖像識別等領(lǐng)域都達到了很高的水平，但是它仍有很長的路要走。比如，關(guān)于你和你的團隊進行資源分配的問題。你怎樣做才可以得出優(yōu)的資源分配決策，同時優(yōu)化你的資源消耗方式？這樣得話，你將會節(jié)省多少開支？下一代人工智能技術(shù)將會給出我們上述問題的答案。
有多大能力就有多大責任
人工智能普及化就意味著，你公司將會對這種實用性強的，可支持人工智能正常運轉(zhuǎn)的安全基礎(chǔ)設(shè)施負責，而人工智能則將輔助公司的業(yè)務(wù)運作。實用性強的安全基礎(chǔ)設(shè)施是非常有必要的，否則，一旦人工智能技術(shù)出現(xiàn)任何問題，企業(yè)將損失慘重。同等重要的還有安全，否則，一旦人工智能接收到不良數(shù)據(jù)，無論是因為意外還是有意為之，企業(yè)的決策制定都會受到影響。
人工智能對企業(yè)的影響改變了人們做事的方式-更重要地體現(xiàn)在如何在層次上進行事務(wù)操作。CSO擔任的角色是為人工智能基礎(chǔ)設(shè)施的完整性負責，該基礎(chǔ)設(shè)施為整個企業(yè)的運作提供動力，就像蜘蛛俠名言說的那樣：“有多大的能力就要承擔多大的責任?！碑斎?，網(wǎng)絡(luò)安全和軟件安全領(lǐng)域的內(nèi)容也會隨著人工智能的加入而改變。你更需要明白的是，人工智能的普及更加意味著CSO在企業(yè)中將成為核心角色。
基于云的模糊技術(shù)
云計算推動人工智能的普及，原因在于云服務(wù)平臺可以將發(fā)展人工智能的三大技術(shù)捆綁在一起：大計算，大數(shù)據(jù)，大智能。在過去兩年里，我在這三類技術(shù)領(lǐng)域都有參與開發(fā)。
為人工智能支撐企業(yè)建立合法性
網(wǎng)絡(luò)空間安全將負責搭建和監(jiān)管人工智能基礎(chǔ)設(shè)施相關(guān)的所有內(nèi)容，甚至那些我們剛剛涉足的方面也要包括進去。我們都聽說過“廢料輸入，廢料輸出”這種說法，但是你有沒有想過如何將這種思想運用到人工智能的業(yè)務(wù)支撐中呢？你有沒有建立數(shù)據(jù)中毒安全策略，來防止攻擊者欺騙人工智能使其做出錯誤決策？如果你已經(jīng)基于錯誤數(shù)據(jù)做出了錯誤決定，那么你需要多久才會發(fā)現(xiàn)它并解決它呢？
數(shù)據(jù)中毒已經(jīng)是網(wǎng)絡(luò)空間空間安全界一個廣受關(guān)注的問題了。比如，反病毒軟件的檢查依據(jù)來源于廣泛領(lǐng)域的信號和樣本，軟件供應商必須要深刻保持警惕，尤其是當被攻擊者盯上試圖破化其軟件系統(tǒng)的時候。
盡管我們的方法已經(jīng)成熟到可以將人工智能安全囊括到保護系統(tǒng)中，我們?nèi)圆荒芩尚?。想象你是一個專車服務(wù)公司的負責人，但一個大事件過后，你雇傭的所有司機在同一時間都聯(lián)系不上了。隨之而來的就是，匹配乘客和司機的人工智能系統(tǒng)會發(fā)現(xiàn)道路上沒有專車，進而得出專車缺失的結(jié)論。進而它會采取行動，比如因供不應求而提升乘坐的價格面臨的挑戰(zhàn)將是檢測數(shù)據(jù)中毒事件，通過調(diào)整錯誤決策來保護業(yè)務(wù)正常運轉(zhuǎn)，采取適當措施根除問題防止未來復發(fā)。
客戶需要理解并接受企業(yè)決定，否則他們就得離開。要讓人工智能合法化，來做業(yè)務(wù)支撐，必須深入了解人工智能如何“思考”，而不僅僅停留在知道如何運行基礎(chǔ)設(shè)施上。要迎接這些挑戰(zhàn)，責任將擴展到全所未有的境地。將負責協(xié)助企業(yè)領(lǐng)導將人工智能輔助技術(shù)推向世界。這并沒有聽起來那么簡單，但這將會使安全成為每一個企業(yè)的核心內(nèi)容。
返回列表
現(xiàn)代人工智能技術(shù)在語音識別，圖像識別等領(lǐng)域都達到了很高的水平，但是它仍有很長的路要走。比如，關(guān)于你和你的團隊進行資源分配的問題。你怎樣做才可以得出優(yōu)的資源分配決策，同時優(yōu)化你的資源消耗方式？這樣得話，你將會節(jié)省多少開支？下一代人工智能技術(shù)將會給出我們上述問題的答案。
有多大能力就有多大責任
人工智能普及化就意味著，你公司將會對這種實用性強的，可支持人工智能正常運轉(zhuǎn)的安全基礎(chǔ)設(shè)施負責，而人工智能則將輔助公司的業(yè)務(wù)運作。實用性強的安全基礎(chǔ)設(shè)施是非常有必要的，否則，一旦人工智能技術(shù)出現(xiàn)任何問題，企業(yè)將損失慘重。同等重要的還有安全，否則，一旦人工智能接收到不良數(shù)據(jù)，無論是因為意外還是有意為之，企業(yè)的決策制定都會受到影響。
人工智能對企業(yè)的影響改變了人們做事的方式-更重要地體現(xiàn)在如何在層次上進行事務(wù)操作。CSO擔任的角色是為人工智能基礎(chǔ)設(shè)施的完整性負責，該基礎(chǔ)設(shè)施為整個企業(yè)的運作提供動力，就像蜘蛛俠名言說的那樣：“有多大的能力就要承擔多大的責任?！碑斎?，網(wǎng)絡(luò)安全和軟件安全領(lǐng)域的內(nèi)容也會隨著人工智能的加入而改變。你更需要明白的是，人工智能的普及更加意味著CSO在企業(yè)中將成為核心角色。
基于云的模糊技術(shù)
云計算推動人工智能的普及，原因在于云服務(wù)平臺可以將發(fā)展人工智能的三大技術(shù)捆綁在一起：大計算，大數(shù)據(jù)，大智能。在過去兩年里，我在這三類技術(shù)領(lǐng)域都有參與開發(fā)。
為人工智能支撐企業(yè)建立合法性
網(wǎng)絡(luò)空間安全將負責搭建和監(jiān)管人工智能基礎(chǔ)設(shè)施相關(guān)的所有內(nèi)容，甚至那些我們剛剛涉足的方面也要包括進去。我們都聽說過“廢料輸入，廢料輸出”這種說法，但是你有沒有想過如何將這種思想運用到人工智能的業(yè)務(wù)支撐中呢？你有沒有建立數(shù)據(jù)中毒安全策略，來防止攻擊者欺騙人工智能使其做出錯誤決策？如果你已經(jīng)基于錯誤數(shù)據(jù)做出了錯誤決定，那么你需要多久才會發(fā)現(xiàn)它并解決它呢？
數(shù)據(jù)中毒已經(jīng)是網(wǎng)絡(luò)空間空間安全界一個廣受關(guān)注的問題了。比如，反病毒軟件的檢查依據(jù)來源于廣泛領(lǐng)域的信號和樣本，軟件供應商必須要深刻保持警惕，尤其是當被攻擊者盯上試圖破化其軟件系統(tǒng)的時候。
盡管我們的方法已經(jīng)成熟到可以將人工智能安全囊括到保護系統(tǒng)中，我們?nèi)圆荒芩尚?。想象你是一個專車服務(wù)公司的負責人，但一個大事件過后，你雇傭的所有司機在同一時間都聯(lián)系不上了。隨之而來的就是，匹配乘客和司機的人工智能系統(tǒng)會發(fā)現(xiàn)道路上沒有專車，進而得出專車缺失的結(jié)論。進而它會采取行動，比如因供不應求而提升乘坐的價格面臨的挑戰(zhàn)將是檢測數(shù)據(jù)中毒事件，通過調(diào)整錯誤決策來保護業(yè)務(wù)正常運轉(zhuǎn)，采取適當措施根除問題防止未來復發(fā)。
客戶需要理解并接受企業(yè)決定，否則他們就得離開。要讓人工智能合法化，來做業(yè)務(wù)支撐，必須深入了解人工智能如何“思考”，而不僅僅停留在知道如何運行基礎(chǔ)設(shè)施上。要迎接這些挑戰(zhàn)，責任將擴展到全所未有的境地。將負責協(xié)助企業(yè)領(lǐng)導將人工智能輔助技術(shù)推向世界。這并沒有聽起來那么簡單，但這將會使安全成為每一個企業(yè)的核心內(nèi)容。
