智見(jiàn)丨對(duì)話浙江大學(xué)AI研究所所長(zhǎng)吳飛:AI不是惡魔
出品|網(wǎng)易科技《智見(jiàn)訪談》
訪談|楊霞清
【資料圖】
撰文|趙芙瑤
編輯|丁廣勝
繼工業(yè)革命后,GPT及其GPT所引發(fā)的AIGC能否成為下一個(gè)人類(lèi)社會(huì)變革的新奇點(diǎn)?
一批又一批的AIGC工具正在不斷迸發(fā)出超乎尋常的能力,GPT-4可以聯(lián)網(wǎng)并安裝插件后可以一站式成為人們的私人助理;谷歌Bard幫程序員寫(xiě)完代碼后同時(shí)能助力其與國(guó)外同事無(wú)語(yǔ)言障礙共同進(jìn)行代碼調(diào)試;微軟New Bing讓搜索引擎變身無(wú)所不知的“哆啦A夢(mèng)”;Midjourney和Stable Diffusion的作圖能力令人嘆為觀止...AI正在以幾何式的速度塔上了特快列車(chē)。
如何看AIGC發(fā)展的趨勢(shì),AI安全問(wèn)題該如何規(guī)避,中國(guó)的大模型在國(guó)外的差距在哪方面?日前,網(wǎng)易科技《智見(jiàn)》欄目訪談了浙江大學(xué)上海高等研究院常務(wù)副院長(zhǎng)、浙江大學(xué)人工智能研究所所長(zhǎng)吳飛。吳飛認(rèn)為,這波以生成式人工智能模型為基礎(chǔ)的AIGC之所以取得了突破在于將“數(shù)據(jù)是燃料、模型是引擎和算力是加速器”進(jìn)行了完美結(jié)合,產(chǎn)生了令人驚嘆概率式內(nèi)容合成能力。但是這一技術(shù)創(chuàng)新被稱(chēng)為現(xiàn)象級(jí)人工智能產(chǎn)品,即大眾可以看到其成果,但解釋其背后的機(jī)理仍然困難。所謂“我見(jiàn)、我相信,但我不理解”。
目前,對(duì)于AI的發(fā)展大多存在兩種較為對(duì)立觀點(diǎn):第一種是機(jī)器作為人類(lèi)的助手與人類(lèi)共生共進(jìn)化,另一種是機(jī)器逐漸取代人類(lèi),使人類(lèi)成為機(jī)器的奴役對(duì)象。吳飛認(rèn)同第一種觀點(diǎn),他認(rèn)為第二種擔(dān)憂在科幻電影中就曾展現(xiàn)過(guò)。但總體而言,機(jī)器產(chǎn)生意識(shí)和涌現(xiàn)情感在技術(shù)手段上而言,這一目標(biāo)實(shí)現(xiàn)相距甚遠(yuǎn)。
談及人工智能的監(jiān)管,吳飛認(rèn)為,2016年制定的《新一代人工智能發(fā)展規(guī)劃》中就提及到了人工智能的監(jiān)管,特別是數(shù)據(jù)隱私保護(hù)和大數(shù)據(jù)濫用等方面。
以下是網(wǎng)易科技訪談吳飛教授訪談實(shí)錄:
談AI演進(jìn):ChatGPT具有現(xiàn)象級(jí)“涌現(xiàn)”能力
網(wǎng)易科技:您如何看待今年以來(lái)AIGC和ChatGPT的爆火?
吳飛:人工智能的發(fā)展歷程可以追溯到1955年,彼時(shí),它的目標(biāo)是通過(guò)戰(zhàn)勝各領(lǐng)域頂尖專(zhuān)家來(lái)展示其能力。人工智能當(dāng)時(shí)在圍棋、國(guó)際象棋等方面表現(xiàn)出色。過(guò)去,只有像IBM、微軟、網(wǎng)易、騰訊等大型科技公司才能接觸人工智能,普通民眾對(duì)其了解有限。
然而,如今ChatGPT的爆火,讓普通民眾也可以使用人工智能,無(wú)需掌握復(fù)雜的計(jì)算機(jī)系統(tǒng)編程,只需通過(guò)自然語(yǔ)言交互就能完成諸如寫(xiě)代碼、寫(xiě)文章或旅行規(guī)劃等任務(wù)。ChatGPT讓人們感到離人工智能的距離越來(lái)越近。
ChatGPT之所以能生成完整的句子,是因?yàn)槟P椭幸胱⒁饬C(jī)制,從海量語(yǔ)料中學(xué)習(xí)單詞和單詞之間的共現(xiàn)關(guān)聯(lián)概率,形成單詞概率相聯(lián)圖譜,于是在這個(gè)單詞圖譜上就可以實(shí)現(xiàn)內(nèi)容合成。例如,合成"浙江大學(xué)的校訓(xùn)是求是創(chuàng)新"這一句子時(shí),模型通過(guò)概率判斷句子中前一個(gè)單詞與后一個(gè)單詞概率最大,于是在得到前一個(gè)單詞時(shí),接著生成后一個(gè)單詞,這個(gè)句子中的單詞就通過(guò)概率游走方式被產(chǎn)生,實(shí)現(xiàn)了連詞成句和連詞成篇的效果。這樣生成的內(nèi)容通常具有合情合理性,因?yàn)椤按嬖诩春侠怼?,其合成的結(jié)果來(lái)源于對(duì)現(xiàn)實(shí)世界數(shù)據(jù)的信息壓縮和信息解壓。
網(wǎng)易科技:人工智能有60多年歷史了,今年的AIGC浪潮和之前的人工智能浪潮有什么不同?有哪些突破和創(chuàng)新?
吳飛:這波人工智能的進(jìn)步主要是工程層面上的持續(xù)艱苦創(chuàng)新,通過(guò)將海量的數(shù)據(jù)、龐大的模型和計(jì)算系統(tǒng)整合在一起。這種工程創(chuàng)新在以往是沒(méi)有人能夠?qū)崿F(xiàn)的,例如如何對(duì)上萬(wàn)張GPU/CPU之間的數(shù)據(jù)和指令通信進(jìn)行同步和異步的協(xié)同。這種工程性的創(chuàng)新使得人工智能可以展現(xiàn)出現(xiàn)象級(jí)的能力,即大眾可以看到其成果,但解釋其背后的機(jī)理仍然困難。
而人工智能的突破則在于將數(shù)據(jù)、模型和算力相結(jié)合,產(chǎn)生了令人驚嘆的能力。然而,我們對(duì)于其為何具備如此強(qiáng)大的能力仍然知之甚少,這反映了我們知識(shí)體系的局限性。正如普朗克所說(shuō), “科學(xué)是內(nèi)在的整體,被分解為單獨(dú)的部門(mén)不是取決于事物的本質(zhì),而是取決于人類(lèi)認(rèn)識(shí)能力的局限性。實(shí)際上存在著由物理學(xué)到化學(xué)、通過(guò)生物學(xué)和人類(lèi)學(xué)到社會(huì)科學(xué)的鏈條,這是一個(gè)任何一處都不能被打斷的鏈條?!睂?duì)大模型涌現(xiàn)能力的不了解,恰恰說(shuō)明了我們對(duì)復(fù)雜科學(xué)所構(gòu)成的科學(xué)宏偉藍(lán)圖的不了解。
目前,我們對(duì)于人工智能的強(qiáng)大能力仍然沒(méi)有完全的認(rèn)識(shí),無(wú)法從科學(xué)研究的模型和方法論上進(jìn)行充分解釋。雖然我們可以將其視為一個(gè)概率網(wǎng)絡(luò),通過(guò)單詞之間的概率流程實(shí)現(xiàn)連貫性,但我們?nèi)詿o(wú)法解釋為何ChatGPT在參數(shù)規(guī)模達(dá)到千億級(jí)時(shí),它具備涌現(xiàn)能力,而在百億級(jí)時(shí)卻沒(méi)有。類(lèi)似地,人類(lèi)大腦擁有數(shù)百億個(gè)神經(jīng)元,但我們對(duì)于意識(shí)、情感和疼痛等產(chǎn)生的機(jī)理仍然不清楚。
ChatGPT的快速進(jìn)展使得我們難以跟上其變化的步伐。它通過(guò)不斷學(xué)習(xí)大規(guī)模的數(shù)據(jù)實(shí)現(xiàn)了日新月異的發(fā)展速度,與人類(lèi)相比,它不斷進(jìn)化而不受限制。此外,它同步利用用戶(hù)的反饋和日活躍用戶(hù)(約10億人)的互動(dòng)來(lái)改進(jìn)自身算法。
盡管我們尚未能夠?qū)I產(chǎn)生的能力進(jìn)行準(zhǔn)確的數(shù)學(xué)模型解讀,但這并不意味著AI是可怕的惡魔,我們對(duì)于人工智能產(chǎn)生的能力仍需深入研究和理解。
談AI安全和合規(guī):機(jī)器尚未產(chǎn)生意識(shí)與情感
網(wǎng)易科技:AI安全性目前已經(jīng)是最熱門(mén)的話題之一。馬斯克以及千名科學(xué)家共同簽署了叫停更高級(jí)別AI訓(xùn)練的文件,您認(rèn)為AI的進(jìn)化未來(lái)是否會(huì)超出了人的控制?
吳飛:人們對(duì)GPT的發(fā)展表示擔(dān)憂,主要是因?yàn)樗邆淞硕嗄B(tài)的能力。包括馬斯克在內(nèi)的一些科學(xué)家,要求對(duì)其進(jìn)行安全限制,甚至?xí)和_M(jìn)一步研發(fā)更高級(jí)別的AI。是因?yàn)樗麄儞?dān)心,隨著GPT-4具備自我意識(shí)和更快速的發(fā)展,它可能會(huì)超出人類(lèi)的控制范圍。
相較于我認(rèn)同AI應(yīng)該作為人類(lèi)的助手并與我們共存共進(jìn)化的觀點(diǎn)?!度祟?lèi)簡(jiǎn)史》作者尤瓦爾·赫拉利等科學(xué)家則認(rèn)為機(jī)器文明會(huì)取代人類(lèi)文明。他們擔(dān)心GPT-4目前輸出的內(nèi)容完全是基于現(xiàn)有信息重新生成的,它可能會(huì)摧毀人類(lèi)長(zhǎng)期積累的文明,使下一代或下下一代接受的文化主要由機(jī)器創(chuàng)作。
馬斯克提出了四個(gè)暫停GPT訓(xùn)練的理由,一是機(jī)器錯(cuò)誤信息的擴(kuò)散:擔(dān)心機(jī)器生成的錯(cuò)誤信息在互聯(lián)網(wǎng)上不斷擴(kuò)散,并且可能偽裝成真實(shí)信息;二是自動(dòng)化取代人類(lèi)工作:擔(dān)心機(jī)器會(huì)完全自動(dòng)化人類(lèi)的所有工作,對(duì)就業(yè)帶來(lái)威脅;三是產(chǎn)生非人類(lèi)思維:擔(dān)心機(jī)器可能產(chǎn)生超越人類(lèi)的思維方式,引發(fā)不可預(yù)測(cè)的結(jié)果;四是威脅人類(lèi)文明存在:擔(dān)心機(jī)器發(fā)展到一定程度會(huì)代替人類(lèi)文明,摧毀人類(lèi)的文化積累。
對(duì)于這四點(diǎn),我認(rèn)為馬斯克的觀點(diǎn)更像是一種長(zhǎng)遠(yuǎn)的預(yù)警和未雨綢繆的思考,而非具體的行動(dòng)建議。其中后三點(diǎn)可能在未來(lái)幾十年內(nèi)并不會(huì)成為現(xiàn)實(shí),因?yàn)闄C(jī)器出現(xiàn)意識(shí)是非常困難的。
因此,對(duì)于AI的發(fā)展存在兩種觀點(diǎn):一種是機(jī)器作為人類(lèi)的助手與我們共生共進(jìn)化,另一種是機(jī)器逐漸取代人類(lèi),使人類(lèi)成為機(jī)器的奴役對(duì)象。這種擔(dān)憂在科幻電影中就曾展現(xiàn)過(guò)。總體而言,機(jī)器產(chǎn)生意識(shí)和情感與人類(lèi)的幻想相距甚遠(yuǎn)。
網(wǎng)易科技:您認(rèn)為人工智能是否需要嚴(yán)格的監(jiān)管與控制?具體應(yīng)從哪方面入手?
吳飛:2016年,在制定《新一代人工智能發(fā)展規(guī)劃》時(shí),大家就一致認(rèn)為要解決社會(huì)對(duì)人工智能的關(guān)切和憂慮,特別是涉及到數(shù)據(jù)隱私保護(hù)和大數(shù)據(jù)濫用等問(wèn)題。
比如規(guī)劃強(qiáng)調(diào)要解決大數(shù)據(jù)殺熟等問(wèn)題,保護(hù)個(gè)人數(shù)據(jù)隱私,并制定相應(yīng)的政策和措施;要建立高效治理體系,確保人工智能的發(fā)展在法律、倫理和社會(huì)責(zé)任的框架下進(jìn)行;要提供一種有效的方式來(lái)管理人工智能的發(fā)展和應(yīng)用,確保其符合國(guó)家利益、社會(huì)穩(wěn)定和公眾利益。
要提倡制定相關(guān)政策和法規(guī),以規(guī)范人工智能技術(shù)的研發(fā)、應(yīng)用和運(yùn)營(yíng),同時(shí)加強(qiáng)監(jiān)管和監(jiān)督機(jī)制;要鼓勵(lì)國(guó)際合作和跨部門(mén)協(xié)調(diào),共同應(yīng)對(duì)人工智能的挑戰(zhàn)和問(wèn)題,推動(dòng)全球人工智能領(lǐng)域的發(fā)展和合作。
我認(rèn)為這個(gè)思路是正確的,人工智能的監(jiān)管可以從以上幾個(gè)方面入手。
談AI行業(yè)應(yīng)用:傳統(tǒng)應(yīng)試教育受到?jīng)_擊
網(wǎng)易科技:您認(rèn)為AIGC首先會(huì)沖擊哪些行業(yè)?如何看待AIGC對(duì)于教育行業(yè)的賦能?教師與學(xué)生的角色有了哪些轉(zhuǎn)變?
吳飛:不可否認(rèn),人工智能對(duì)教育領(lǐng)域產(chǎn)生了沖擊,例如使用GPT來(lái)完成作業(yè)、論文等任務(wù),這對(duì)傳統(tǒng)的應(yīng)試教育方式構(gòu)成了挑戰(zhàn)。
我認(rèn)為在教育行業(yè),培養(yǎng)創(chuàng)造能力和創(chuàng)新能力比獲取特定知識(shí)更為重要。我很認(rèn)同教育家培根關(guān)于教育的觀點(diǎn):將學(xué)校學(xué)習(xí)和閱讀視為兩種教育手段。教師角色在變化,他們應(yīng)該不僅僅傳授知識(shí),還需教導(dǎo)學(xué)生如何獲取知識(shí)、要結(jié)合理論分析和哲學(xué)思辨的教育方式,讓學(xué)生利用已有的知識(shí)解決問(wèn)題,并對(duì)學(xué)生進(jìn)行批判性思維和分析能力的培養(yǎng)。
此外,學(xué)生同樣應(yīng)該具備提問(wèn)的能力,要能夠進(jìn)行問(wèn)題驅(qū)動(dòng)的學(xué)習(xí)和思考。比如學(xué)生在學(xué)習(xí)中應(yīng)該追溯知識(shí)的原點(diǎn)和歷史發(fā)展,了解知識(shí)體系的形成過(guò)程,同時(shí)在不同知識(shí)領(lǐng)域的邊界交叉處尋找聯(lián)系和啟發(fā)。
近期有大學(xué)生使用ChatGPT生成本科畢業(yè)論文,其語(yǔ)言?xún)?nèi)容雖然表面上滴水不漏,但觀點(diǎn)空洞;有大學(xué)生將搜索引擎搜到的例子發(fā)給GPT,GPT生成的語(yǔ)言將不同地點(diǎn)和概念進(jìn)行了關(guān)聯(lián),但缺乏與實(shí)體世界的具體連接。
由此可見(jiàn),ChatGPT在教育中的應(yīng)用需要考慮到其產(chǎn)生的內(nèi)容是否正確、錯(cuò)誤以及有不完善之處。若想讓人工智能生成更好的內(nèi)容,需要提高問(wèn)問(wèn)題的能力,就像是讓GPT具備更好的知識(shí)圖譜和單詞之間的關(guān)聯(lián),以形成連貫的篇章。
網(wǎng)易科技:您認(rèn)為AIGC將會(huì)先取代哪些職業(yè)?
吳飛:人工智能(如ChatGPT)可以在法律案件中提供相關(guān)的法律法條和案例信息,因?yàn)榉煞l和案例都是公開(kāi)的。這種能力可以幫助律師進(jìn)行案件研究和輔助決策。但是,我一直認(rèn)為這不是取代人類(lèi),而是成為人類(lèi)的幫手,提高工作效率。
在教育領(lǐng)域,教師的作用不僅僅是傳授知識(shí),而是多維度的培養(yǎng)學(xué)生。教育需要互動(dòng)和身體力行,而不僅僅是依賴(lài)人工智能生成的合成內(nèi)容。優(yōu)秀的教師能夠更緊密地連接單詞和知識(shí),培養(yǎng)學(xué)生的綜合能力。
人工智能對(duì)新聞業(yè)的影響是幫助記者節(jié)省精力,AI可以去撰寫(xiě)簡(jiǎn)單的快訊,讓記者有更多的精力去專(zhuān)注于更深度和高質(zhì)量的報(bào)道。AI的發(fā)展使得我們能夠更好地釋放創(chuàng)造力。AI暫時(shí)不會(huì)取代記者,但會(huì)讓他們進(jìn)化,提高深度報(bào)道的能力。
人工智能可以提供大量的數(shù)據(jù)支持,但真正理解和應(yīng)用這些數(shù)據(jù)需要長(zhǎng)期的行業(yè)積累和思考。
談AI大模型與國(guó)外差距:自研AI芯片可彌補(bǔ)算力短板
網(wǎng)易科技:在ChatGPT的技術(shù)路線中,數(shù)據(jù)、算法、算力等方面存在哪些技術(shù)壁壘?中國(guó)科技企業(yè)的AI大模型何時(shí)能達(dá)到GPT 3.5的水平?
吳飛:在AI大模型領(lǐng)域,許多國(guó)內(nèi)公司和創(chuàng)業(yè)者都在努力,希望迎頭趕上GPT 3.5或者GPT4的水平。衡量與這些模型的差距是一個(gè)悖論,因?yàn)槿狈γ鞔_的標(biāo)準(zhǔn)來(lái)評(píng)判。
數(shù)據(jù)、算法和算力是影響差距的因素。同時(shí),用戶(hù)反饋會(huì)對(duì)模型的進(jìn)化起著重要作用。開(kāi)放和積累越早,獲取的用戶(hù)反饋越多,模型的能力就會(huì)隨之增強(qiáng)。畢竟在機(jī)器學(xué)習(xí)中,人類(lèi)的反饋被認(rèn)為是至關(guān)重要的,它可以幫助模型進(jìn)行學(xué)習(xí)和改進(jìn)。
首先,對(duì)于算力方面,美國(guó)的GPU芯片如英偉達(dá)的A100或H100,以及谷歌的TPU(Tensor Processing Unit),具備較高的算力,但目前無(wú)法供應(yīng)給中國(guó)市場(chǎng)。這導(dǎo)致中國(guó)在算力方面存在短板。
其次,大型模型的訓(xùn)練需要大量的數(shù)據(jù)支持,例如像GPT-3和GPT-3.5這樣的模型,英文數(shù)據(jù)通常是全球范圍內(nèi)可獲得的,但中文數(shù)據(jù)可能更多地偏向在中國(guó)市場(chǎng)收集。同時(shí)可以利用互聯(lián)網(wǎng)上的開(kāi)源數(shù)據(jù),如維基百科等,中國(guó)在中文數(shù)據(jù)方面可能具有優(yōu)勢(shì),因?yàn)橹袊?guó)的科學(xué)家和工程師對(duì)中文更了解,并且中文的語(yǔ)義和隱喻更深入。
網(wǎng)易科技:面對(duì)巨大的差距,中國(guó)應(yīng)該如何奮起直追,補(bǔ)足短板?
吳飛:由于大家眾所周知的原因,一些先進(jìn)的GPU芯片如A100和TPU無(wú)法在中國(guó)市場(chǎng)銷(xiāo)售,這進(jìn)一步加劇了中國(guó)的算力短缺。
針對(duì)這個(gè)問(wèn)題,中國(guó)一些互聯(lián)網(wǎng)企業(yè)或?qū)I(yè)芯片公司正在研制GPU芯片。
大模型不僅為類(lèi)ChatGPT產(chǎn)品提供機(jī)會(huì),而且可以為各種應(yīng)用提供增值。例如,大模型的能力可以與應(yīng)用的數(shù)據(jù)和功能結(jié)合,使得每個(gè)應(yīng)用都能受益于人工智能算法和模型的力量。這可能帶來(lái)許多機(jī)會(huì),如GPT時(shí)代的美團(tuán),就可以利用人工智能算法來(lái)優(yōu)化數(shù)據(jù)和服務(wù),讓外賣(mài)送得更快,讓配送時(shí)間更合理。
總結(jié)來(lái)說(shuō),我們?cè)贕PU算力芯片方面存在差距,數(shù)據(jù)的可用性對(duì)算力有重要影響。中國(guó)正努力彌補(bǔ)算力短板,包括自主研發(fā)人工智能芯片,大型模型的發(fā)展同時(shí)為各種應(yīng)用提供了機(jī)會(huì)。
網(wǎng)易科技:目前許多高校開(kāi)設(shè)了人工智能與數(shù)據(jù)分析等AI相關(guān)專(zhuān)業(yè),在AI人才培養(yǎng)方面,浙江大學(xué)有哪些嘗試和實(shí)踐?
吳飛:浙江大學(xué)于2018年開(kāi)始批準(zhǔn)人工智能本科專(zhuān)業(yè),并于2019年自設(shè)人工智能交叉學(xué)科。
浙江大學(xué)擁有三位一體的人才培養(yǎng)思路:采取教材、課程和平臺(tái)相結(jié)合的方式進(jìn)行人才培養(yǎng)。浙江大學(xué)編寫(xiě)了新的人工智能教材,包括《人工智能導(dǎo)論:模型與算法》、《可視化導(dǎo)論》和《智能產(chǎn)品設(shè)計(jì)》等,并且在愛(ài)課程(中國(guó)大學(xué)MOOC)建成慕課。
此外,浙江大學(xué)建立了“智海”人工智能科教平臺(tái),與企業(yè)合作,該平臺(tái)會(huì)為新一代人工智能教材提供算法實(shí)訓(xùn),讓學(xué)習(xí)者體會(huì)人工智能具能、使能和賦能,從算法層面對(duì)人工智能技術(shù)“知其意,悟其理,守其則,踐其行”。通過(guò)實(shí)訓(xùn)平臺(tái)搭建,將理論知識(shí)轉(zhuǎn)化成賦能應(yīng)用,促進(jìn)人工智能人才培養(yǎng)與國(guó)家、行業(yè)和企業(yè)需求結(jié)合更加緊密結(jié)合。
浙江大學(xué)同時(shí)與企業(yè)如百度、華為、阿里巴巴和商湯等合作,在平臺(tái)中培養(yǎng)學(xué)生,使用國(guó)產(chǎn)的人工智能編程框架和芯片,鼓勵(lì)學(xué)生掌握國(guó)產(chǎn)技術(shù)。在浙江大學(xué)與阿里的合作中,通過(guò)合作項(xiàng)目將大模型壓縮為輕量級(jí)模型,以適應(yīng)移動(dòng)端應(yīng)用。
我們同樣鼓勵(lì)非人工智能專(zhuān)業(yè)學(xué)生的參與,浙江大學(xué)設(shè)立了針對(duì)非計(jì)算機(jī)專(zhuān)業(yè)學(xué)生的輔修專(zhuān)業(yè),以培養(yǎng)非人工智能專(zhuān)業(yè)學(xué)生對(duì)人工智能的應(yīng)用能力,推動(dòng)人工智能在各行業(yè)的發(fā)展。
標(biāo)簽:
搶先讀
- 華特達(dá)因06月16日獲深股通增持3.99萬(wàn)股
- 怎么用電餅鐺做烤雞翅啊?|環(huán)球新消息
- 百事通!2023順德陳村荷花觀賞指南(地址+門(mén)票+時(shí)間)
- 湖人后悔了嗎?湖人舊將再奪總冠軍成熱火克星!
- 大類(lèi)資產(chǎn)與金融市場(chǎng)監(jiān)測(cè)周報(bào)2023年6月第二周:美加息暫停但未及終點(diǎn) 國(guó)內(nèi)降息陸續(xù)落地
- 當(dāng)前短訊!山東年內(nèi)將開(kāi)展產(chǎn)業(yè)鏈“鏈內(nèi)”企業(yè)家專(zhuān)題培訓(xùn)
- 環(huán)球最新:預(yù)見(jiàn)探討近期分布式光伏的變化
- 【環(huán)球新要聞】合資車(chē)企們,還會(huì)給4S店輸血嗎?
- 觀城·宜賓丨2023動(dòng)力電池大會(huì)碩果累累,促高校畢業(yè)生就業(yè)如火如荼
- 天天熱資訊!2023沈陽(yáng)端午節(jié)期間有哪些消費(fèi)券活動(dòng)?
- 新資訊:北京三宗宅地?cái)埥?50億 中皋進(jìn)京幸運(yùn)奪得亦莊“王炸”地塊
- 《漫游者:命運(yùn)碎片》面向PSVR2/PC公布 2024推出
- 政策利好!多股10分鐘強(qiáng)勢(shì)漲停 “中特估”又火了
- 2023年新能源整車(chē)概念龍頭股匯總 (2023/6/16)
- 用友u8反結(jié)賬怎么辦_用友u8反結(jié)賬_全球熱點(diǎn)
- 中國(guó)石油大學(xué)(北京)2023年寧夏理工(普通考生)招生計(jì)劃
- 世界銀行新行長(zhǎng)彭安杰:中國(guó)不是競(jìng)爭(zhēng)對(duì)手 焦點(diǎn)精選
- 【環(huán)球熱聞】東西湖 | 寶龍達(dá)連拿兩地工業(yè)用地
- 世界觀速訊丨光伏設(shè)備:硅料價(jià)格大幅下跌 Q3光伏玻璃可能迎來(lái)階段性供需反轉(zhuǎn)
- 前沿資訊!尼美舒利片的功能主治_nmsl
- 為了“保殼”!金科開(kāi)啟“密集救市”模式 股票于7日起成功停牌
- 福州一對(duì)母子被灑落瀝青燙傷身亡,涉事貨車(chē)超載25倍
- 全球觀速訊丨5條精品旅游線路背后,資陽(yáng)文旅的“謀”與“動(dòng)”
- 天天通訊!ChatGPT 標(biāo)注指南來(lái)了!數(shù)據(jù)是關(guān)鍵
- 天天速遞!ieencode.dll重新安裝有哪些方法
- 環(huán)球快資訊:北汽藍(lán)谷: 公司聯(lián)合華為共建“1873戴維森創(chuàng)新實(shí)驗(yàn)室”,共同開(kāi)發(fā)面向下一代的智能網(wǎng)聯(lián)電動(dòng)汽車(chē)技術(shù)
- 資本市場(chǎng)投資端改革頻現(xiàn)積極信號(hào) 權(quán)益類(lèi)基金迎來(lái)大風(fēng)口
- 紐威股份控股股東王保慶質(zhì)押1610萬(wàn)股 用于為控制的公司融資提供質(zhì)押擔(dān)保
- 美國(guó)一座島突現(xiàn)數(shù)百萬(wàn)毛毛蟲(chóng) 畫(huà)面曝光:蟲(chóng)子掛滿(mǎn)枝頭 掉落時(shí)像下雨 時(shí)快訊
- 中南建設(shè):擬定增募資不超28億元,用于項(xiàng)目建設(shè)及補(bǔ)充流動(dòng)資金|焦點(diǎn)訊息
- 沈夢(mèng)辰34歲生日會(huì)現(xiàn)場(chǎng),汪涵楊迪梁田現(xiàn)身捧場(chǎng),未見(jiàn)丈夫杜海濤
- 2020房貸利率下調(diào)
- 友誼賽-基維奧爾頭球制勝庫(kù)巴告別戰(zhàn) 德國(guó)0-1波蘭三場(chǎng)不勝
- 嬰幼兒奶粉板塊股票有哪些?嬰幼兒奶粉板塊股票一覽
- “猴痘”是什么?有哪些傳播途徑?這些知識(shí)你要了解_今亮點(diǎn)
- 全球快消息!中藥股快速拉升,貴州百靈漲超7%
- 2023年寧波海曙發(fā)放的618消費(fèi)券在哪里搶|觀天下
- 天天新動(dòng)態(tài):差差漫畫(huà)くずしろ作品免費(fèi)窗口頁(yè)面觀看
- 隆基綠能年產(chǎn)100GW單晶硅片項(xiàng)目落地陜西西咸新區(qū)【附中國(guó)單晶硅片產(chǎn)能分析】|熱消息
- 跳橋救人小哥:我也害怕,但不跳一個(gè)生命就沒(méi)了
- “法律援助進(jìn)校園”活動(dòng)走進(jìn)西安高新第二小學(xué)
- 共建綠色無(wú)毒校園,祝國(guó)寺小學(xué)學(xué)子向毒品說(shuō)“不”!
- 搭載第四代i-MMD混動(dòng)系統(tǒng),東風(fēng)本田CR-V e:HEV售價(jià)19.99萬(wàn)元起
- 環(huán)球微頭條丨中國(guó)人壽保險(xiǎn)重疾險(xiǎn)多少錢(qián)一年?來(lái)看看這三款產(chǎn)品 環(huán)球觀察
- 今頭條!道森股份(603800.SH):銘鷹投資擬減持不超2%股份
- 晶方科技: 車(chē)用電子后視鏡的出現(xiàn)是利用CIS影像傳感器來(lái)采集后視數(shù)據(jù),來(lái)代替原有的機(jī)械后視鏡|快消息
- 三美股份全資子公司福建東瑩擬投資約10.72億建設(shè)6.2萬(wàn)噸/年電解質(zhì)及其配套工程項(xiàng)目 視焦點(diǎn)訊
- 【天天速看料】貼地飛行、懸浮隧道……這些交通“黑科技”正走近你我
- 湖南啟動(dòng)2023年度名品評(píng)價(jià) 培育世界精品
- 【創(chuàng)新突破 產(chǎn)業(yè)突圍】仲夏遍訪江南岸,借得東風(fēng)再揚(yáng)帆—臨澧縣委書(shū)記李雨初帶隊(duì)赴長(zhǎng)三角招商考察
- 英方軟件: 英方與華為在海外如東南亞、中東、非洲、拉丁美洲有眾多的項(xiàng)目落地
- 純堿多頭趨勢(shì)初現(xiàn),持續(xù)性有待觀察|世界要聞
- 華特氣體:廈門(mén)華弘多福投資合伙企業(yè)(有限合伙)、廈門(mén)華和多福投資合伙企業(yè)(有限合伙)、廈門(mén)華進(jìn)多福投資合伙企業(yè)(有限合伙)共減持公司股份約205萬(wàn)股 全球報(bào)道
- 社論丨加強(qiáng)逆周期調(diào)節(jié) 推動(dòng)房地產(chǎn)市場(chǎng)平穩(wěn)健康發(fā)展
- 【小里幫忙】書(shū)香河畔小區(qū)物業(yè)拒絕賣(mài)電,大熱天愁壞水果店主|每日播報(bào)
- 花花“視”界?|金沙遺址博物館邂逅小鹿“亂撞”
- 我為群眾辦實(shí)事丨太華路這處綠植過(guò)高遮擋視線 西安市城管局回應(yīng)-世界觀焦點(diǎn)
- 前5月全國(guó)一般公共預(yù)算 收入同比增長(zhǎng)14.9%
- 頭條:《地下城與勇士》奶弓110版本裝備推薦 奶弓110版本裝備怎么選?
- 成都大運(yùn)會(huì)體育比賽門(mén)票今天正式開(kāi)售_最資訊
- 萬(wàn)字解析:上線3天玩家破百萬(wàn),街頭霸王為何總能創(chuàng)造傳奇?
- 期貨行情鑫東財(cái)配資|環(huán)球新動(dòng)態(tài)
- 公示!上流?金諾商務(wù)中心項(xiàng)目規(guī)劃變更,層數(shù)、車(chē)位等調(diào)整
- 沃爾瑪股票實(shí)時(shí)行情
- 前5個(gè)月審批核準(zhǔn)固定資產(chǎn)總投資6672億元
- 寧河區(qū)氣象臺(tái)更新高溫紅色預(yù)警/I級(jí)/特別嚴(yán)重【2023-06-16】
- 如何科學(xué)應(yīng)對(duì)猴痘病毒?專(zhuān)家回應(yīng)熱點(diǎn)關(guān)切
- 生物質(zhì)能概念股_關(guān)于生物質(zhì)能概念股介紹 天天通訊
- 物企收并購(gòu)“退潮”
- 注意!志愿填報(bào)9大限制條件! 當(dāng)前聚焦
- 2023沈陽(yáng)國(guó)際機(jī)器人展覽會(huì)時(shí)間+地點(diǎn)+簡(jiǎn)介
- 天津中心城區(qū)最高氣溫達(dá)40.2 ℃ 突破1951年以來(lái)6月中旬極值 焦點(diǎn)速遞
- 每日快訊!浙江醫(yī)藥: 目前公司并無(wú)以新冠肺炎為適應(yīng)癥的醫(yī)藥制劑產(chǎn)品
- 分享米飯團(tuán)子的簡(jiǎn)單做法 ,秒變米飯殺手
- 熱點(diǎn)!英國(guó)駐華使館關(guān)注川大張薇賬號(hào)?英方辟謠:截圖是偽造的
- 女子發(fā)現(xiàn)“0.6折”買(mǎi)服飾36件網(wǎng)店卻不發(fā)貨,法院這樣判
- 圖靈看市6.16晚-白銀十字星轉(zhuǎn)折、多頭迎來(lái)反攻 全球觀速訊
- 廣東發(fā)布質(zhì)量強(qiáng)省建設(shè)綱要 到2025年建成一批質(zhì)量卓越產(chǎn)業(yè)集群 焦點(diǎn)速看
- 屬羊人的流年運(yùn)程,2022 屬羊人的流年運(yùn)程
- 智見(jiàn)丨對(duì)話浙江大學(xué)AI研究所所長(zhǎng)吳飛:AI不是惡魔
- 2023昆明市第七屆運(yùn)動(dòng)會(huì)最新消息(持續(xù)更新)
- 環(huán)球通訊!具身機(jī)器人板塊股票一覽(2023/6/16)
- 財(cái)政部:1-5月累計(jì)印花稅收入1848億元 同比下降14.6% 環(huán)球快消息
- 破壞組蛋白遺傳可能導(dǎo)致腫瘤加速發(fā)展 全球熱頭條
- 當(dāng)前信息:中瓷電子(003031):6月16日北向資金增持3.44萬(wàn)股
- 發(fā)放消費(fèi)券100萬(wàn)元!日照市“平安商超”創(chuàng)建暨日照購(gòu)物節(jié)正式啟動(dòng)
- 環(huán)球快看點(diǎn)丨中國(guó)民航局:提升千萬(wàn)級(jí)以上機(jī)場(chǎng)航班近機(jī)位靠橋率
- 60余家“專(zhuān)精特新”企業(yè)西安共議數(shù)字化賦能-環(huán)球速看
- 招商簽約達(dá)七成!深圳寶龍專(zhuān)精特新產(chǎn)業(yè)園年底迎首批企業(yè)入駐
- 天天速看:國(guó)家神經(jīng)系統(tǒng)疾病臨床醫(yī)學(xué)研究中心開(kāi)封區(qū)域分中心揭牌儀式在市中心醫(yī)院舉行
- 忸怩怎么讀 ?你的普通話讀音為什么讀不對(duì)?
- 【世界聚看點(diǎn)】跨境etf可以當(dāng)天買(mǎi)入當(dāng)天賣(mài)出嗎 答案是這樣的
- 商務(wù)印書(shū)館、中華書(shū)局、三聯(lián)書(shū)店聯(lián)袂發(fā)布學(xué)術(shù)圖書(shū)英譯成果|環(huán)球今頭條
- 2023網(wǎng)絡(luò)新梗大全及解釋匯總一覽(持續(xù)更新)
- 97年屬牛男孩命運(yùn),97年屬牛女和97年屬牛男
- 八旬老人騎車(chē)時(shí)被困 四少年相助獲褒獎(jiǎng)
- 【焦點(diǎn)熱聞】當(dāng)前資訊!2023年9月全國(guó)計(jì)算機(jī)等級(jí)考試報(bào)名將于6月26日開(kāi)始
- 12歲圓鎖生日給別人送 天天日?qǐng)?bào)
- 魔獸世界:微軟收購(gòu)案全面提速,1個(gè)消息顯示,國(guó)服代理蓄勢(shì)待發(fā)
- 大摩下調(diào)新加坡航空評(píng)級(jí),股價(jià)一個(gè)月飆升33%-通訊