網(wǎng)友評(píng)論 ()2015.03.10 總第69期 作者:xukkx
導(dǎo)語(yǔ):要說(shuō)2015年至2016年間風(fēng)靡整個(gè)圍棋界和人工智能領(lǐng)域的一件大事,,莫過(guò)于新科圍棋計(jì)算機(jī)程序AlphaGo挑戰(zhàn)著名世界冠軍韓籍棋手李世石九段了,。從賽前的輿論風(fēng)向上看,除了部分計(jì)算機(jī)界專家對(duì)AlphaGo的獲勝充滿信心之外,,普遍的看法還是偏向于人類頂尖棋手能夠戰(zhàn)勝圍棋計(jì)算機(jī)程序,。如李開復(fù)博士曾在知乎表示人工智能若要戰(zhàn)勝李世石,,還需要1至2年時(shí)間的磨練。然而第一天的戰(zhàn)果卻令大部分人大跌眼鏡,,經(jīng)過(guò)一場(chǎng)三個(gè)半小時(shí)的大戰(zhàn),,AlphaGo執(zhí)白中盤戰(zhàn)勝李世石,令世人震驚,。那么,,人工智能經(jīng)過(guò)幾十年的發(fā)展,究竟到了何種地步,?真的可以取代人類智能,,達(dá)到一個(gè)令人類遙不可及的境界了嗎,?本文通過(guò)對(duì)人工智能歷史的發(fā)展的梳理,對(duì)此問(wèn)題做一個(gè)簡(jiǎn)單的探討,。
人機(jī)圍棋大戰(zhàn)現(xiàn)場(chǎng)
一,、 人工智能的起源與發(fā)展
人工智能,即人類使用計(jì)算機(jī)對(duì)人類智能的模仿,,讓機(jī)器“學(xué)會(huì)”人類在某一領(lǐng)域的專業(yè)技能。早在公元前384-322年,,Aristotle在其著作《工具論》中提出形式邏輯,。Bacon在《新工具》中提出了歸納法。萊布尼茨(Leibnitz)提出了通用符號(hào)和推理計(jì)算的概念,,這些都是人工智能研究的萌芽,。進(jìn)入19世紀(jì)以來(lái),數(shù)理邏輯等學(xué)科的進(jìn)展,,為人工智能的誕生奠定了基石,。布爾(Boole)創(chuàng)立的布爾代數(shù)與哥德?tīng)?Godel)提出的不完備理論,以及圖靈(Turing)提出的自動(dòng)機(jī)理論,,為電子計(jì)算機(jī)的發(fā)明提供了理論基礎(chǔ),。1943年,McClloch和Pitts提出了MP神經(jīng)網(wǎng)絡(luò)模型,,開創(chuàng)了人工智能中的重要領(lǐng)域——神經(jīng)網(wǎng)絡(luò)的研究,,1945年隨著ENIAC電子數(shù)字計(jì)算機(jī)的誕生,人工智能得到了不斷的發(fā)展和應(yīng)用,。如今,,人工智能已經(jīng)滲入了普通人生活的方方面面。比如在人們網(wǎng)購(gòu)的過(guò)程中,,網(wǎng)站可以通過(guò)用戶瀏覽網(wǎng)頁(yè)的習(xí)慣來(lái)“猜測(cè)”其可能感興趣的商品,,并推薦給該用戶,這項(xiàng)技術(shù)就使用到了人工智能中重要領(lǐng)域“機(jī)器學(xué)習(xí)”中的重要方法,。而機(jī)器學(xué)習(xí)中的重要算法——神經(jīng)網(wǎng)絡(luò),,則與本文的主角AlphaGo圍棋程序息息相關(guān)。
二,、 為什么圍棋程序是人工智能重大挑戰(zhàn),?
早在人工智能發(fā)展初期的20世紀(jì)50年代,來(lái)自IBM工程研究組的Samuel就開發(fā)出了跳棋程序,,具有初步的學(xué)習(xí)能力,,可以在與人對(duì)弈的過(guò)程中不斷地積累經(jīng)驗(yàn),提高自己的棋藝,。并且在1959年,,這個(gè)程序戰(zhàn)勝了其設(shè)計(jì)者本人,,1962年,再次擊敗一位州跳棋冠軍,。由此可見(jiàn),,通過(guò)機(jī)器學(xué)習(xí)人類的棋類游戲并與人類對(duì)弈,一直是人工智能應(yīng)用中的一個(gè)很令人感興趣的話題,。早期人工智能學(xué)者對(duì)于”計(jì)算機(jī)很快就會(huì)戰(zhàn)勝人類“這個(gè)話題曾經(jīng)過(guò)分地樂(lè)觀過(guò),,60年代初,人工智能創(chuàng)始人Simon等甚至樂(lè)觀地預(yù)言:十年內(nèi)數(shù)字計(jì)算機(jī)將取代人類獲得國(guó)際象棋世界冠軍,。
然而經(jīng)過(guò)深入的研究,,人們卻發(fā)現(xiàn)人工智能所遇到的困難比想象中的多得多,比如,,Samuel的跳棋程序在擊敗州冠軍后無(wú)法再前進(jìn)一步,。而在國(guó)際象棋對(duì)弈中,人類棋手可以在每步三分鐘的時(shí)間限制中,,通過(guò)直覺(jué)與理解,,在若干個(gè)定式中選擇對(duì)自己最為有利的下法。對(duì)于優(yōu)秀棋手而言,,通??梢酝ㄟ^(guò)思考預(yù)測(cè)到5步之后的情形,而對(duì)于電腦程序而言,,每行走一步卻面臨著平均每顆棋子超過(guò)30余種選擇,,合計(jì)起來(lái)為了預(yù)測(cè)5步以后的情形,需要考慮下法居然多達(dá)1015 種可能,,計(jì)算機(jī)每走一步,,則平均每秒需要檢查百萬(wàn)種可能的走法,以當(dāng)時(shí)電腦的計(jì)算能力而言,,走一步棋需要花費(fèi)三十年時(shí)間,。可見(jiàn)如果電腦不能通過(guò)對(duì)棋局的判斷來(lái)減少行棋的復(fù)雜度,,僅憑蠻力,,程序很難擊敗人類頂尖棋手。1968年,,在得知人工智能研究者John McCarthy和Donald Michie”十年內(nèi)電腦將擊敗國(guó)際象棋世界冠軍”的預(yù)言后,,著名國(guó)際象棋世界大師David Levy與人工智能學(xué)者打下一個(gè)非常著名的賭注:沒(méi)有電腦國(guó)際象棋程序可以在十年內(nèi)擊敗我。賭金為1250英鎊,。在這十年中,,David Levy成功了擊敗了所有電腦挑戰(zhàn)者,并在1978年9月在一場(chǎng)六局對(duì)決中,以4.5比1.5的比分戰(zhàn)勝當(dāng)時(shí)的終極電腦程序Chess 4.7,,從而最終贏得了自己打下的這個(gè)賭,。
盡管贏下了賭注,電腦卻在第四局對(duì)局中獲得了勝利,,這是計(jì)算機(jī)程序歷史上第一次擊敗人類國(guó)際象棋大師,。為此,David Levy寫道:盡管我在十年前的斷言是正確的,,然而我的機(jī)器對(duì)手在這十年中,,比我打賭時(shí)進(jìn)步的太多了,從此以后,,再也沒(méi)有會(huì)令我震驚的事情發(fā)生了(指電腦程序最終擊敗人類特級(jí)大師),。那么,這十年中電腦程序在什么方面取得了進(jìn)展呢,?
剪枝法示意
轉(zhuǎn)機(jī)來(lái)源于一種被稱為“剪枝法”的算法被用于象棋程序的估值函數(shù)之中。估值函數(shù),,即電腦對(duì)于當(dāng)前棋局優(yōu)劣進(jìn)行判斷的根據(jù),,估值函數(shù)根據(jù)當(dāng)前的局面算得一個(gè)分?jǐn)?shù),來(lái)判斷此棋局是否對(duì)自己就有利,,最后,,選擇最高得分的那一步作為自己最終的行棋。如果可選擇的步數(shù)太多,,未經(jīng)過(guò)特別的優(yōu)化,,則會(huì)陷入上文提到的窮舉困境之中。顧名思義,,“剪枝法”就如同剪掉一棵大樹不重要的“旁枝”一般,,去除掉完全不可能的走法,因故可以減少?gòu)?fù)雜度,,對(duì)估值函數(shù)最后的選擇起到了優(yōu)化的作用,,這么一整套算法被稱為“ alpha-beta 剪枝結(jié)合搜索樹算法”。
隨著數(shù)十年來(lái)算法的不斷改進(jìn),,到了七十年代末,,國(guó)際象棋程序已經(jīng)可以擊敗人類的頂級(jí)高手了。1976年,,在Paul Masson美國(guó)國(guó)際象棋錦標(biāo)賽B級(jí)的比賽中,, Chess4.7的前身,美國(guó)西北大學(xué)開發(fā)的Chess4.5擊敗了人類選手,,這是計(jì)算機(jī)程序首次擊敗人類棋手奪取的人類錦標(biāo),。到了1982年,計(jì)算機(jī)象棋程序每秒可估算1500種不同的走法,并擊敗絕大部分人類棋手,??梢?jiàn),程序所取得的進(jìn)步并非靠計(jì)算硬件水平的提高,,而是通過(guò)算法上的優(yōu)化,,提高程序鑒別“勝負(fù)手”的能力和速度,在一個(gè)可行的范圍內(nèi)找出人類棋手的弱點(diǎn),,從而擊潰之,。最著名的“人機(jī)”大戰(zhàn)是1997年俄羅斯國(guó)際特級(jí)大師卡斯帕羅夫與IBM公司研發(fā)的超級(jí)計(jì)算機(jī)深藍(lán)(Deep Blue)的對(duì)決,深藍(lán)最終的勝出表明人類最強(qiáng)國(guó)際象棋特級(jí)大師已經(jīng)徹底被人工智能所擊敗,,從此再也難以從計(jì)算機(jī)程序手中拿走一勝了,。
那么既然人工智能算法在國(guó)際象棋上已取得了大捷,基于同樣原理的算法能否在更加復(fù)雜的圍棋中擊敗人類的頂級(jí)棋手呢,?答案是否定的,,在簡(jiǎn)單的規(guī)則下,標(biāo)準(zhǔn)的19×19棋盤內(nèi),,共有361個(gè)點(diǎn),,大概有10170種下法,而宇宙中已知原子的數(shù)量只有1080個(gè),,可見(jiàn)圍棋棋局之復(fù)雜遠(yuǎn)超國(guó)際象棋,,這也難怪創(chuàng)建高水平的圍棋程序被稱為人工智能領(lǐng)域的重大挑戰(zhàn)。比較而言,,在國(guó)際象棋程序中行之有效的“搜索樹”(search tree)算法,,在圍棋程序中的推廣卻不甚理想,難以和職業(yè)圍棋選手抗衡,。在AlphaGo出現(xiàn)之前,,基于傳統(tǒng)算法的圍棋程序僅能達(dá)到業(yè)余棋手的水平,遠(yuǎn)遠(yuǎn)不能令人滿意,。而AlphaGo橫空出世后,,首戰(zhàn)即5比0大勝歐洲圍棋冠軍樊麾二段,展現(xiàn)出不俗的實(shí)力,。因此,,說(shuō)AlphaGo的出現(xiàn)嚴(yán)重動(dòng)搖了人類智能在圍棋上的壟斷,是毫無(wú)問(wèn)題的,。那么,,AlphaGo及其研發(fā)的團(tuán)隊(duì)Google DeepMind都有什么亮點(diǎn)呢?
三,、 AlphaGo體現(xiàn)了當(dāng)今人工智能的最高水平
在談及AlphaGo及其開發(fā)團(tuán)隊(duì)Google DeepMind之前,,必須先簡(jiǎn)介一下其領(lǐng)導(dǎo)者哈薩比斯(Demis Hassabis),可以說(shuō),在他出現(xiàn)之前,,幾乎所有研究者都認(rèn)為在十年內(nèi)人工智能戰(zhàn)勝圍棋大師的機(jī)會(huì)是渺茫的,。而在他出現(xiàn)以后,幾乎所有人都在驚呼人工智能已破解了圍棋這一歷史難題,,甚至在極短的時(shí)間內(nèi)兩次讓研究成果上了《Nature》雜志的封面,。因此,衛(wèi)報(bào)(TheGuardian)直呼Hassabis就是人工智能領(lǐng)域的超級(jí)英雄,。我認(rèn)為Hassabis個(gè)人完全配得上這個(gè)稱謂,。
Hassabis
據(jù)《衛(wèi)報(bào)》的報(bào)道,Hassabis的終生目標(biāo)就是開發(fā)出“通用”的人工智能程序,,來(lái)解決生活中的一切問(wèn)題,。他分別取得了劍橋大學(xué)和倫敦大學(xué)學(xué)院的計(jì)算機(jī)科學(xué)和神經(jīng)科學(xué)學(xué)位。Hassabis稱自己領(lǐng)導(dǎo)的項(xiàng)目就是“21世紀(jì)的阿波羅項(xiàng)目”,,這也難怪AlphaGo在擊敗了李世石九段之后Hassabis第一時(shí)間在twitter對(duì)團(tuán)隊(duì)的祝賀中用“登月”形容圍棋程序擊敗人類頂尖棋手的意義,。而在此之前,DeepMind通過(guò)對(duì)近期人工智能技術(shù)中最熱門的一項(xiàng)技術(shù)——深度學(xué)習(xí)網(wǎng)絡(luò),,加上”強(qiáng)化學(xué)習(xí)”的方法使計(jì)算機(jī)通過(guò)自學(xué)的方式在上世紀(jì)七八十年代的雅達(dá)利經(jīng)典游戲中,,獲得了近乎人類的表現(xiàn)。而這一成果在更早先的時(shí)候登上了《Nature》雜志的封面,。擁有千年歷史的古老游戲與三十年前的像素游戲紛紛被人工智能攻破,恐怕在未來(lái)若干年間,,人工智能在任何游戲中都強(qiáng)于人類也不會(huì)是太令人震驚的事情吧,。
以上所有人工智能領(lǐng)域的發(fā)展,都離不開一項(xiàng)技術(shù)在近年來(lái)的突破,,那就是深度學(xué)習(xí)(Deep Learning),,深度學(xué)習(xí)是傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)技術(shù)的再發(fā)展。何為神經(jīng)網(wǎng)絡(luò),?神經(jīng)網(wǎng)絡(luò)就是人類提出的一套模擬大腦工作方式的計(jì)算機(jī)算法,。人的大腦有100億個(gè)神經(jīng)元,人類對(duì)于環(huán)境的感知,,對(duì)于未知事物的認(rèn)知與神經(jīng)元的“可塑性”息息相關(guān),,人腦通過(guò)對(duì)特定的人物或者感興趣的知識(shí)進(jìn)行“建模”,神經(jīng)元形成相互連接的“神經(jīng)網(wǎng)絡(luò)”,,并通過(guò)互聯(lián)神經(jīng)元的連接強(qiáng)度,,即突觸權(quán)值來(lái)儲(chǔ)存知識(shí)。而所謂人工神經(jīng)網(wǎng)絡(luò),,就是將化簡(jiǎn)后人腦的神經(jīng)元模型實(shí)現(xiàn)于電子計(jì)算機(jī)之上,,從而得到類似于人腦的功能,使計(jì)算機(jī)可以通過(guò)“學(xué)習(xí)”從外界環(huán)境中獲取知識(shí)。最初等的人工神經(jīng)網(wǎng)絡(luò)出現(xiàn)在20世紀(jì)50年代末的“感知機(jī)”模型,,初步展現(xiàn)了人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力,,后來(lái)的研究表明感知機(jī)模型只能解決很有限的幾類問(wèn)題。神經(jīng)網(wǎng)絡(luò)的最新發(fā)展——深度學(xué)習(xí)方法源于Geoffrey Hinton教授等人三十多年來(lái)的不懈努力研究和推廣,,自誕生之日起,,即在機(jī)器學(xué)習(xí)領(lǐng)域中大放異彩,通過(guò)深度學(xué)習(xí)方法訓(xùn)練出來(lái)的模型,,在某些特別的圖像識(shí)別和語(yǔ)音識(shí)別的任務(wù)中,,甚至有超過(guò)人類的表現(xiàn)。在當(dāng)下,,深度學(xué)習(xí)方法是最接近人類大腦的人工智能學(xué)習(xí)算法,。那么將深度學(xué)習(xí)網(wǎng)絡(luò)應(yīng)用于圍棋程序AlphaGo又與傳統(tǒng)的國(guó)際象棋程序深藍(lán)有什么區(qū)別呢?
據(jù)AlphaGo官方博客介紹,,AlphaGo采用了一種更加“通用”的人工智能方法,,即采用將改進(jìn)的蒙特卡洛決策樹算法與深度神經(jīng)網(wǎng)絡(luò)算法相結(jié)合的方法構(gòu)建最終的學(xué)習(xí)系統(tǒng)。其中,,深度神經(jīng)網(wǎng)絡(luò)由一個(gè)多達(dá)12層的包含上百萬(wàn)個(gè)神經(jīng)元節(jié)點(diǎn)的神經(jīng)網(wǎng)絡(luò)構(gòu)成,,其包括兩個(gè)部分:策略網(wǎng)絡(luò)與價(jià)值網(wǎng)絡(luò)。具體的技術(shù)細(xì)節(jié)在此不贅言,,僅說(shuō)說(shuō)其發(fā)揮的作用,。策略網(wǎng)絡(luò)在當(dāng)前給定的棋局中,負(fù)責(zé)預(yù)測(cè)下一步的走棋,,并對(duì)下一步走棋的好壞進(jìn)行打分,,如果是好棋,就打高分,,最終,,最高分的走法被策略網(wǎng)絡(luò)選為下一步棋的走法。而這個(gè)最高分如要如何評(píng)定呢,?此時(shí),,現(xiàn)存于人類數(shù)據(jù)庫(kù)中的圍棋棋譜的作用就體現(xiàn)出來(lái)了,對(duì)比以往高手對(duì)決的棋譜,,如果如此走法能得到最終的勝利,,那就是好棋,這步就可以評(píng)高分,,因?yàn)橐酝遄V的勝負(fù)是已知的,,反之亦然。在這里,,人類歷史上的大量圍棋起了訓(xùn)練數(shù)據(jù)的作用,,好比老師在“監(jiān)督”學(xué)生做練習(xí),,答對(duì)了就給高分,答錯(cuò)了不給分,。通過(guò)對(duì)于三千萬(wàn)步人類棋譜的學(xué)習(xí),,AlphaGo對(duì)于人類棋手下一步走棋的預(yù)測(cè)準(zhǔn)確率高達(dá)57%(之前為43%)。策略網(wǎng)絡(luò)的作用好比“模仿”人類棋手的各種走法,,以達(dá)到預(yù)測(cè)的效果,。
然而僅憑模仿無(wú)法擊敗最頂級(jí)的人類高手。因此,,AlphaGo增加了價(jià)值網(wǎng)絡(luò)來(lái)判斷當(dāng)前的局面,,到底對(duì)哪一方有利,這一步類似于國(guó)際象棋程序中的估值函數(shù),,而具體的實(shí)現(xiàn)方法卻有所不同,,象棋程序中需要人工調(diào)整估值函數(shù)中的權(quán)重,以達(dá)到最好的效果,,甚至需要水平極高的國(guó)際特級(jí)大師參與調(diào)整參數(shù),。而圍棋程序的局勢(shì)評(píng)估相當(dāng)困難,只能通過(guò)深度學(xué)習(xí)網(wǎng)絡(luò)之間自我訓(xùn)練的方法來(lái)達(dá)到良好的效果,。與國(guó)際象棋程序相比,,圍棋好比人類用自己的知識(shí)訓(xùn)練電腦,使其達(dá)到人類高手的水平,,而國(guó)際象棋程序則是人類親自將行棋的方法與邏輯設(shè)計(jì)為電腦程序,,最終由計(jì)算機(jī)代表人類與人類高手進(jìn)行對(duì)弈。根據(jù)Facebook人工智能組研究員田淵棟博士介紹,,為了得到合適的價(jià)值網(wǎng)絡(luò)模型,,AlphaGo通過(guò)自我對(duì)局三千萬(wàn)盤的方式訓(xùn)練得到了強(qiáng)有力的價(jià)值網(wǎng)絡(luò)模型,最后再通過(guò)傳統(tǒng)的蒙特卡洛搜索樹方法結(jié)合以上兩種深度神經(jīng)網(wǎng)絡(luò)模型,,最終得到了完整的AlphaGo圍棋程序,??梢哉f(shuō)AlphaGo的研發(fā)是當(dāng)今人工智能領(lǐng)域各類技術(shù)的集大成者,,體現(xiàn)了人工智能技術(shù)的最高水平。
四,、 人工智能超越人類還要多久,?
李世石在圍棋人機(jī)大戰(zhàn)第一盤中的失利,幾乎掀起了軒然大波,,似乎一夜之間人工智能已經(jīng)戰(zhàn)勝人類智能,,甚至人工智能完全超越人類智能的那一天似乎也不會(huì)遙遠(yuǎn)了。為此,,需要對(duì)“人工智能”的概念做一個(gè)簡(jiǎn)單的澄清,。
對(duì)于人工智能的看法,,一直分兩派不同的觀點(diǎn),一派是強(qiáng)人工智能,,即通過(guò)不斷地發(fā)展機(jī)器終將獲得類人的自我意識(shí),,最終通過(guò)不斷地自我進(jìn)化獲得遠(yuǎn)強(qiáng)于人類的智能水平。而另一派則認(rèn)為人工智能只是對(duì)人類勞動(dòng)的接管,,僅在部分領(lǐng)域超越人類,,全面超越人類智能只是一個(gè)夢(mèng)想而已。
從目前的研究現(xiàn)狀看,,強(qiáng)人工智能的研究幾乎陷入了停滯,,遠(yuǎn)超過(guò)人類智能的強(qiáng)人工智能是否存在依然是個(gè)很有爭(zhēng)議的話題,更不要說(shuō)具體的研究方向了,。而主流的機(jī)器學(xué)習(xí)技術(shù),,依然集中于對(duì)人類技能的學(xué)習(xí),并通過(guò)學(xué)習(xí)的成果來(lái)解決實(shí)際的問(wèn)題,。比如說(shuō)圍棋程序AlphaGo,,盡管比起國(guó)際象棋機(jī)器深藍(lán)進(jìn)步很大,然而本質(zhì)上依然是在給定規(guī)則具體游戲上的探究,,一旦改變了規(guī)則,,甚至換不同規(guī)格的棋盤,AlphaGo就必須推倒重來(lái),,重新搜集相應(yīng)棋譜來(lái)獲得棋力了,。很明顯,這和人類所認(rèn)識(shí)的“舉一反三”類型的“創(chuàng)造知識(shí)”的智慧是不相符的,。如果要問(wèn)當(dāng)今的人工智能是否達(dá)到了三歲小孩的智力水平,,那也是一件無(wú)法比較的事情,因?yàn)橥ㄟ^(guò)不斷地訓(xùn)練機(jī)器可以在特定技能上完勝小孩子,,但是在一些看似簡(jiǎn)單的學(xué)習(xí)上,,小孩子需要花費(fèi)的精力卻遠(yuǎn)小于機(jī)器。比如拿起桌子上的杯子喝水,,對(duì)于小孩來(lái)說(shuō)很容易學(xué)會(huì),,對(duì)于智能機(jī)器來(lái)說(shuō),卻是件連問(wèn)題是什么都很難描述清楚的事情,,更不要說(shuō)自主學(xué)習(xí)了,。因此,在未來(lái)很長(zhǎng)一段時(shí)間內(nèi),,所謂人工智能,,依然只是對(duì)人類技能的補(bǔ)充,好比工具,,是對(duì)人類智慧的拓寬,,即“機(jī)器使用人類的知識(shí)戰(zhàn)勝了人類”,,而遠(yuǎn)非到了遠(yuǎn)超人類智慧的地步。
當(dāng)然,,人類對(duì)于智能的理解還很淺,。就拿上文所提的深度學(xué)習(xí)舉例,雖然在實(shí)用中獲得了廣泛的應(yīng)用,,然而人們對(duì)其背后的數(shù)學(xué)機(jī)制依然不太清楚,,不知道機(jī)器做出結(jié)論的依據(jù)是什么,甚至連Hassabis本人也說(shuō)不清楚AlphaGo的棋力到底幾何,?;蛟S直到人類對(duì)“智能是什么”這種問(wèn)題的本質(zhì)了解透徹之時(shí),對(duì)于“人工智能能否超越人類”這個(gè)話題才能得到令人滿意的答案吧,。
蘭臺(tái)
鳳凰歷史特約記錄員
鳳凰歷史 官方微信
微信掃描二維碼
每天看精彩歷史
蘭臺(tái)說(shuō)史往期
所有評(píng)論僅代表網(wǎng)友意見(jiàn),,鳳凰網(wǎng)保持中立