擔(dān)憂未來(lái)人類被機(jī)器人控制

雖然西方正在研制的最先進(jìn)的無(wú)人作戰(zhàn)系統(tǒng)都達(dá)到了很高的自主化程度，但目前還是離不開人的操縱。有專家預(yù)計(jì)，至少在未來(lái)20年內(nèi)，這種自主“殺人機(jī)器人”都不會(huì)問(wèn)世。不過(guò)，這種發(fā)展趨勢(shì)已經(jīng)引發(fā)了各方的激烈辯論。

很多人認(rèn)為機(jī)器人不應(yīng)對(duì)人類擁有生殺大權(quán)，并認(rèn)為賦予機(jī)器人剝奪人類生命的權(quán)利會(huì)涉及很多法律和倫理道德等問(wèn)題。此外，“殺人機(jī)器人”最令人擔(dān)心的，或許是它將給全人類帶來(lái)的威脅。

由于自主機(jī)器人要靠計(jì)算機(jī)軟件實(shí)現(xiàn)自主控制，那么這些機(jī)器人就免不了會(huì)受到恐怖分子和黑客的襲擊以及軟件故障的威脅。美軍此前就面臨過(guò)這樣的情況：2008年曾有3臺(tái)裝備武器的“劍”式地面機(jī)器人被部署到了伊拉克，但是這種遙控機(jī)器人僅在前線正式部署了11個(gè)小時(shí)后還未開一槍就被從戰(zhàn)場(chǎng)上撤回——因?yàn)樗鼈儗尶趯?duì)準(zhǔn)了它們的人類指揮官。美國(guó)陸軍軍官凱文·法赫證實(shí)，這些機(jī)器人的“槍管在操作者未發(fā)指令的時(shí)候自己移動(dòng)了”。

美國(guó)科幻作家阿西莫夫早在1940年就提出了著名的“機(jī)器人三原則”，即“機(jī)器人不得危害人類、必須服從人類的命令、在不違反第一條和第二條的情況下必須保護(hù)自己”。但即使在阿西莫夫自己的作品中，也出現(xiàn)了機(jī)器人脫離人類控制，反而控制人類的場(chǎng)景。因此，一旦完全自主的“殺人機(jī)器人”問(wèn)世并被實(shí)戰(zhàn)部署，全世界都將面臨可能被機(jī)器人毀滅的危險(xiǎn)。(《國(guó)際先驅(qū)導(dǎo)報(bào)》記者粘軼鋒 發(fā)自北京)