Home 閱讀一輩子 Spies, lies, and algorithm

Spies, lies, and algorithm

by admin

在2014年的6月,美國的CIA(美國聯邦調查局)在Tweet上發出了第一篇貼文:

We can neither confirm nor deny that this is our first tweet. 

呃…. 像CIA這種搞情報的單位,不是應該愈秘密愈好,為什麼在社交媒體上開了帳號,開始跟公眾互動呢?

“The CIA’s Tweeter debut was a light-hearted moment in a darkening landscape. New technologies such as artificial intelligence(AI), Internet connectivity, quantum computing, and synthetic biology are disrupting global economics and politics at unprecedented speed…”

CIA,除了做了一些見不得人的勾當之外,其實它最主要的任務在於蒐集並分析情報,以供美國政府實施軍事與外交政策的參考,其中有些情報是上達天聽,也就是直接呈遞給美國總統的。

CIA情報員與電影中的007是很不一樣的。

真正的CIA情報員,致力於吸收接近重要情報的人為線民。情報員自身如果不小心曝露了,往往是走為上策,很少像007情報員那樣正面參與實際的戰鬥,除非真的情不得已。

隨著資訊科技的發展,有更多的情報是加密放在網路上,這就令傳統上倚重透過社交關係吸收線民的做法,有其侷限性,而且效率不彰。

Google可以搜尋到很多東西,在各種社交媒體的App上也會迅速流通很多資料。在數位資訊的時代,要癱瘓對手的電路系統,只消駭入對方的電腦;而從美國大選中,蘇俄透過FB的客戶資料的分析傳送精確訊息來影響選情。這些在在顯示,CIA已經不能關起門來蒐集分析資料,而必須跟外界適度的溝通。

而網路上的資料,問題是太多了,很多沒有用的,甚至是假消息。完全透過人來分析、判斷,幾乎是不可能的任務。在這種狀況下,運用AI就很重要了。

最早期的Internet,是美國政府軍方的技術轉為民用的結果。

民間在數位資訊的軟硬體的發展,一飛沖天,現在反而是像Google、Microsoft等大科技公司,擁有更強的軟硬體。民間公司能夠付出的超高薪酬,吸走了大部分的尖端科技專業人才。

光在2018年,美國就有41位在AI領域中最優秀的教授,離開教職而投入民間企業。都讓人懷疑在學校裏,是否還有足夠的人來教導下一代AI呢!

在電腦硬體上面,Quantum Computing(量子運算)是一個迫切的威脅。

現今的加密方式,是透過質數的運算來達到加密的效果,因為要反向找出相關的質數來解密,需要很強大的運算,以當今的技術是辦不到的,所以加密的資料是安全的。問題是,Quantum Computing(量子運算)的超強能力,將可以解開所有的加密,這是一個潛在的問題。

世界的強國都在研發Quantum Computing(量子運算),其中電腦的硬體是關鍵。美國為什麼要限制高階晶片及其製作的設備賣到其他敵對的大國,看來是有其戰略上的深遠意義的。

2003年,美國第43任總統喬治·沃克·布希(小布希),以伊拉克有”mass destruction weapon”(大規模毀滅性武器)為由,揮軍入侵伊拉克,結果在五年內估計造成伊拉克15至100萬軍民的死亡。然而,事後聯合國小組的調查,並沒有發現”mass destruction weapon”(大規模毀滅性武器)!

小布希應該是靠CIA提供情報的。CIA在蒐集和分析”mass destruction weapon”(大規模毀滅性武器)資料上所犯了嚴重的錯誤,可謂昭然若揭。

從相關的報導看來,英國似乎也有類似的情報,美國或許也有參考。但是像發動伊拉克戰爭這等大事,美國總統應該是倚重自家CIA的情報吧!

伊拉克是主要的產油大國,美國入侵或許有其他地緣政治的考量,但是顯然CIA認為伊拉克當時有”mass destruction weapon”(大規模毀滅性武器),是情報蒐集和分析上的重大失誤。

不管是透過線民或者透過網路竊取到的資料,都必須謹慎交叉比對和分析之後,才能變成有用的情報。而透過人來分析資料,往往會受到七種Bias(偏誤)的影響:

1. Confirmation Bias. 受既有認知,先入為主觀念的影響。

“People tend to seek and latch on to information that confirms their pre-existing belief while avoiding, disregarding, or minimizing evidence that challenges them.”

2. Optimism Bias. 人偏向自我感覺的良好。

“…people believe good events will happen to themselves more than others, that their own investments will outperform the average, that their favorite sports team has a higher chance of winning than actually does, and that their preferred presidential candidate will win even the polls say otherwise…”

3. Availability Bias. 憑主觀印象而非客觀資料推估可能性。

“People are atrocious at understanding probabilities…people naturally assume something they can easily recall is more likely to occur. The human brain confuses the availability of a past memory with the likelihood of its future occurrence…”

4. The Fundamental Attribution Error. 別人的過錯是他們的個性偏差所致,自己的過錯則是外在環境所逼。

“…the tendency to believe that others behave badly because their personality while we ourselves behave badly because factors beyond our control…”

5. Mirror Imaging. 認為別人會和自己一樣,會採取相同的行動。

“Mirror imaging is estimating how someone else will behave by projecting what you would do in the same situation.”

6. Farming Biases: The Trouble with Numbers and Words. 數字和文字的解讀,人言人殊。

“Different people perceive the same numbers or words in very different ways.”

7 Groupthink. 同溫層中的團體思維,傾向一言堂

“…it refers to a particular psychological pathology. When groupthink strikes, even smart, motivated, well-intentioned, rational individuals working in highly cohesive groups make poor collective decisions. How can this be? Because cohesion turns out to be a double-edged sword. The problem isn’t that there’s too much friction in the group. It’s that there’s too little.”

所以,在CIA情報分析人員的訓練上,就是要使他們能夠時時提醒自己,儘可能避免前述的偏誤。可是,往往當局者迷,偏誤就所在難免了。

CIA在”mass destruction weapon”(大規模毀滅性武器)資料分析上,可能犯了前述的某些偏誤。根據報導,在美國和英國的情報單位,對該項情報,並不是沒有人感到疑慮,但是沒有人強烈提出來,美國小布希總統最後決定的是相信了伊拉克有”mass destruction weapon”(大規模毀滅性武器)! 美國的最高決策層,是否犯了Groupthink,同溫層中團體思維傾向的一言堂,這個偏誤呢?

2011年,CIA發現它在中國的情報網迅速瓦解,線民要嘛不是被捕,不然就是被轉變成為雙面諜。除了CIA在中國情報網中的資深人員被滲透涉有重嫌之外,他們發現在中國使用的情報通訊系統的防火牆有漏洞,根本無法避開中國高超、嚴密的網路監控系統的法眼。

這就是數位科技世代對情報單位的挑戰。除了人的問題,現在更多的資訊是放在網路上,只要自己的系統有疏失或者對方有更強大的駭客技術,所有辛苦佈下的情報網、線人,都會毀於一旦。

而至於資料的竊取,現在不是一、兩個檔案的問題,而是用giga bytes、Tera bytes的大規模資料在很短的幾秒或幾分鐘之內,就會被完全取得。散到社交媒體app或媒體,將迅速造成不可收拾的災難。

網路的攻擊,是即時性的,而且在事前我們無從得知誰會用什麼方式進行攻擊。所以,對抗網路的攻擊,就必須俱備及時性的高深科技。

根據統計,每2,500行的codes(程式碼),就可能有1處有弱點。這個弱點,就非常可能是駭客入侵的地方!

譬如,Window-XP 約有4000萬條codes,那麼剛寫好的,就可能潛藏1.6萬個弱點。用全新的軟體,很可怕吧!駭客只消穿越1個程式的弱點,就可能為所欲為呢!

“Cyber threats are vastly different from traditional security threats, with profound implications for intelligence. In cyberspace, everyone is vulnerable. Adversaries steal, spy, disrupt, destroy, and deceive at speeds and scales unthinkable even a few years ago. Uncertainty abounds. Espionage, defense, and attack are hard to differentiated. Cyber weapons require global, persistent, real-time intelligence to work. It’s a tall order…”

美國2016年的總統大選選戰中,CIA早就偵測到蘇俄支持川普的動作頻頻,但是他們完全沒有料到,蘇俄透過分析FB資料中的政黨取向而發送針對性的訊息,居然輕易改變了勢鈞力敵的大選結果。

當FB的CEO祖克柏(Mark Zuckerberg)出席國會聽證會,回答客戶資料保密及蘇俄透過分析FB客戶資料影響美國大選的事項時,大家突然發現,美國國會議員對於對世界政治、商業、社會影響甚鉅的科技公司,譬如FB,居然所知甚少。從某些發問的問題,甚至可以發現,居然有議員不清楚社交媒體、電子郵件、加密訊息之間的差別呢!

在2020年,美國國會議員的背景,有210位是律師但只有32位是工程師。而在參議員則只有3位是工程師背景。美國國會議員對最新資訊科技的不熟悉,是可以想像的。那麼怎麼能夠發揮監督的功能呢?國會制定的政策,趕不上矽谷那些科技新創公司的發展,可能成為美國安全的潛在危機。

以encryption(加密)為例。

在2013年,Edward Snowden,其為CIA職員,NSA外包技術員,因披露稜鏡計劃監聽專案,而被通緝。

Apple、Google、Yahoo等大科技公司,在得知美國政府致力於用更強大的電腦破解他們客戶的加密資料,莫不加強了加密的功能。

2015年,發生在美國加州,死了14人的聖貝納迪諾槍擊案,當FBI要求Apple公司解開兇嫌iPhone裏加密的資料時,被Apple公司斷然拒絕了。後來FBI是找來以色列的重案專業公司,駭入該手機才取得資料呢!

現在是Apple公司可以保護我們在iPhone上加密的資料,但是隨著Quantum computing(量子運算)的長足進步,或許在幾十年內,任何的加密方法都可以被解密了呢!

目前Google、Microsoft、IBM在Quantum computing(量子運算)的進展拔得頭籌。中國也在上面有鉅量的投資,很可怕吧!我就想,或許高階晶片的輸出限制,可能減緩中國在Quantum computing(量子運算)上的進展。而如果烏俄戰爭削弱了蘇俄的競爭力,那麼威脅短期可能不會從那裏來。

但是,想到這些美國公司和美國政府(如CIA),在未來有能力將大家加密的資料看透透,也是夠可怕的了。

如果美國國會(人民),無法跟上科技的進步,及時制定高科技公司的相關政策,或者無法密切監管屆時什麼都看得到的CIA,那麼權力一旦被濫用了,美國可能變成世界超強的新集權國家,誰說絕對不可能呢?

*:Amy B. Zegart, Spies, lies, and algorithm, 2022, Princeton University Press

2023/7/18 Spies, lies, and algorithm Damakey

You may also like

Leave a Comment