成人免费午夜在线观看,伊人久久精品,一区二区三区精品

文匯報：您一定關(guān)注到，最近麻省理工獲得捐贈，籌建計算與人工智能學(xué)院。捐贈者蘇世民先生說，選擇麻省理工，是因為它“專業(yè)知識和價值觀都適于擔(dān)任AI的‘真北’（true north）”，而新“學(xué)院對道德的關(guān)注至關(guān)重要，因為……AI改變社會結(jié)構(gòu)的力量越來越大。如果不加控制，這些技術(shù)最終可能傷害人類?！?

馮象：我太太是校友，收到了校長關(guān)于建院的信。校長也非常強調(diào)，前沿科技須有價值觀的指導(dǎo)同倫理約束。他說，人工智能有幾個難題，一是懂的人太少。即使在麻省理工，90%的人也所知甚少，更別說公眾和政客了。第二，AI技術(shù)的社會風(fēng)險極大，亟需推動人機倫理研究，探討規(guī)制的理論與方法。第三，至少迄今為止，AI加劇了貧富分化，使得大量資源集中到一小撮人手里。

我們可以補充一點：AI技術(shù)因為廣泛用于日常生活，并迅速軍事化，受市場機制的激勵，很容易價格“白菜化”。一旦做成廉價商品，就更難有效管制了，不論訂立多少部法規(guī)、國際條約。這方面不乏前車之鑒，但在資本主義市場經(jīng)濟的條件下，前景不容樂觀。

文匯報：人工智能的發(fā)展令我們的生活發(fā)生這么深刻的變革，會不會推翻“理性人假設(shè)”等西方經(jīng)濟學(xué)、法學(xué)的基礎(chǔ)理論呢？

馮象：“理性人”或“經(jīng)濟理性人”（恩格斯管他叫“英國人”）假設(shè)，是資本主義正當(dāng)化敘事的文宣重點，有年頭了。在中國亦不例外。我總覺得，這假設(shè)跟19世紀(jì)市場資本主義處于“初級階段”、司法技術(shù)和偵察/監(jiān)控手段不甚發(fā)達(dá)有關(guān)。假說扮作公理，即可把許多疑難問題、無法或不便處理的糾紛等等，擋在政法制度的門外；從而使司法程序復(fù)雜化，增加訴訟成本，遮掩實質(zhì)規(guī)范所保護的資本利益和特權(quán)。

理性只是人這個物種的眾多能力之一。以生物學(xué)心理學(xué)觀之，人若是想修煉成一個“經(jīng)濟理性人”，太難了。否則發(fā)財當(dāng)資本家，何須“新教倫理”呢？還是文學(xué)家藝術(shù)家敏感，他們很善于描繪人不那么理性的一面。尤其進入資本主義時代，幾乎所有偉大的文藝作品，都是對“理性人”的批判、嘲諷或厭棄。

所謂零隱私的人，也即硬規(guī)則之子；他心底的欲望和陰影、一閃而過的念頭，全在“天眼”關(guān)照之下。理性人假設(shè)對于司法，猶如對于市場營銷網(wǎng)絡(luò)詐騙，基本是多余的了。也許經(jīng)濟學(xué)、法學(xué)用作文宣，“理論滯后”有別的考量？

當(dāng)機器人獲得獨立的自我意識，人機關(guān)系會變得復(fù)雜

文匯報：西方世界有奴隸制的傳統(tǒng)，是否也反映在他們對機器人的態(tài)度上呢？我的意思是，雅典民主是建立在保有奴隸的基礎(chǔ)上的，因為大量使用奴隸勞動，自由民才有時間精力參與城邦政治。資本主義興起后，承擔(dān)這一角色的是殖民地人民和黑奴；到了全球化時代，則是第三世界的打工仔。今天AI興起，假想的對象變成了機器人。但是否有可能，這對主奴關(guān)系發(fā)生反轉(zhuǎn)……

馮象：學(xué)界討論人機倫理，例如阿西莫夫三定律，往往隱含一個前提：主奴關(guān)系。可是總有一天，機器的才智會遠(yuǎn)超人類，主奴關(guān)系就維持不了了。

其實，只要機器獲得獨立的自我意識，即便毫無當(dāng)人類主子的意愿，人機關(guān)系（對于人類）也會變得異常復(fù)雜。

常有論者不信AI會發(fā)展出自我意識。然而在AI學(xué)界，明斯基他們早已確認(rèn)了這一可能。而機器一旦演進到能夠區(qū)分人我、自我保護、自我復(fù)制（即繁衍）的水平，就不能把它看成是一個沒有自我意識而被設(shè)定為人類仆役的物品，或一件聰明的工具。

相反，機器將學(xué)會做道德價值判斷，會追求并維護自身利益，還會有自尊心，有自己的朋友圈，乃至愛欲嫉恨等各樣感情。

那時，它將如何看待我們？注意，AI的自我意識演進是不可逆的；我們無法逆轉(zhuǎn)歷史，“穿越”亦非明智的選項。

所以明斯基說，他很幸運，這輩子不用面對這一困難選擇。但也有學(xué)者認(rèn)為，他的“感知器”（Perceptrons）理論“誤導(dǎo)”了學(xué)界，是機器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)研究在上世紀(jì)70年代陷于停頓的罪魁禍?zhǔn)??；蛟S我們需要一位新的明斯基，就是以他的權(quán)威和洞見，勸喻人類放慢腳步，不妨再過一個漫長的“AI冬天”；以便我們能有充裕的時間做好準(zhǔn)備，全面規(guī)劃，與AI攜手（見利求同《隱私的未來》，載《文化縱橫》6/2018）。這樣留有余地，也許風(fēng)險會小些。

文匯報：最后，馮先生，如果讓您開一門新課，“人工智能與人類未來”，您會掛出一份怎樣的課前閱讀/視覺材料呢？

馮象：這些內(nèi)容，我們課上每年都討論的。不過我只講七八本書，瑪麗·雪萊的《弗蘭肯斯坦》，歌德《浮士德》，馬列經(jīng)典同中國革命文獻，包括回憶錄和年譜。并由此上溯西方宗教的烏托邦傳統(tǒng)，如耶穌運動的窮人福音綱領(lǐng)等等。

論文選題及相關(guān)材料，我總是讓學(xué)生自己找，因為多數(shù)是研究生選修，也有三五個優(yōu)秀的本科生。他們往往想法很好，但不知如何著手。因此特別需要鼓勵，去接觸社會現(xiàn)實。無論電競、手游的流行文化/異端生成機制，還是下工廠農(nóng)村調(diào)研，和農(nóng)民工姐妹一起站到流水線上，經(jīng)受硬規(guī)則的盤剝，都是那“已經(jīng)來到”的“未來”的一個征兆。目的是給他們一個鍛煉機會，擺脫教條主義，反思舊法治衰亡之際，主奴關(guān)系的根源。

這一代年輕人大學(xué)生，焦慮迷惘的不少。我希望，探索人機倫理能夠幫助同學(xué)們找到人生的方向，從而當(dāng)機器換人全面鋪開之日，能夠把閱讀與思考化為行動的勇氣。

（本報記者 李純一 見習(xí)記者 陳瑜）