7月26日，以「智能時代 同球共濟」為主題的2025世界人工智慧大會在上海開幕。大會展覽面積首次突破7萬平方米，吸引了800餘家企業參展，集中展示3000餘項前沿展品及100餘款「全球首發」「中國首秀」新品，規模創歷屆之最。
據新華社26日消息，中國政府倡議成立世界人工智慧合作組織。這是中方堅持踐行多邊主義、推動共商共建共享全球治理的重要舉措，也是中方響應全球南方呼聲、助力彌合數字和智能鴻溝、促進人工智慧向善普惠發展的實際行動。初步考慮該組織總部設在上海。
阿里巴巴發布夸克AI眼鏡
7月26日，阿里巴巴正式發布了首款自研AI眼鏡——夸克AI眼鏡的技術研發進展，並回應了外界對其AI硬體布局的關注。據悉，該款AI眼鏡已完成研發，預計將於年內正式發布。
據介紹，這款夸克AI眼鏡搭載雙芯雙系統和雙電池，並配備可更換電池和換電倉，保證續航需求。此外，為支撐多模態AI能力的落地，夸克AI眼鏡在硬體結構上進行了系統重構，具備通話、音樂、翻譯、會議紀要等主流功能，同時在AI交互、佩戴、顯示與影像、續航等方面實現突破。
有業內人士表示，相比於其他廠商，阿里的最大優勢在於生態整合能力。作為阿里巴巴AI能力與生態協同的集大成者，夸克AI眼鏡將深度融合阿里及支付寶生態。產品具備通義千問大模型和夸克最新AI能力，還支持高德導航、支付寶看一下支付、淘寶比價、飛豬商旅提醒等。
當前，阿里憑藉通義千問躋身全球基座模型第一梯隊，應用側夸克快速發展成為國內領先的AI應用。夸克AI眼鏡標誌著阿里在AI領域的又一次戰略性下注，代表了其AI to C戰略正從軟體領域延伸至多形態硬體。
同日，上海市智能眼鏡產業聯盟也宣布成立。
上海發放一批智能網聯汽車示範運營牌照
7月26日，在2025世界人工智慧大會「模數引領，智行未來」AI賦能自動駕駛創新發展論壇上，一批智能網聯汽車示範運營牌照現場正式發放。
論壇現場，百度智行科技（上海）有限公司、大眾交通（集團）股份有限公司、上海賽可出行科技服務有限公司、上海強生出租汽車有限公司、賽可智能科技（上海）有限公司、小馬易行科技（上海）有限公司、上海錦江出租汽車服務有限公司、上海友道智途科技有限公司成為首批獲准企業。
有業內知情人士介紹，本次示範運營意味著可以收費，並且是基於法規的主駕無人。之前一個階段是示範應用，可以載人但不能收費。原來嘉定的示範運營是車上有安全員，這一次實際是主駕無人，即車上沒有安全員的示範運營。對於定價，該人士認為，「一般低於巡遊計程車，但不會低於網約車的快車。」
從此前的自動駕駛測試示範應用牌照到此次示範運營牌照，意味著向商業化運營又邁進了一步。與之相匹配的，上海的自動駕駛開放道路也在不斷開拓，根據論壇發布的《上海高級別自動駕駛引領區「模速智行」行動計劃》，到2027年，實現L4級自動駕駛載客突破600萬人次，開放道路超5000公里，具備L2和L3功能的新車佔比超90%。
「AI教父」辛頓發表主題演講
據澎湃新聞，圖靈獎得主、諾獎得主、「AI教父」傑弗里·辛頓（Geoffrey Hinton）發表主題演講再談AI（人工智慧）安全。
傑弗里·辛頓（Geoffrey Hinton）
辛頓表示，人類理解語言的方式實際上很像大語言模型，因此人類實際上很像大語言模型，也會產生幻覺，經常編造東西，特別是當他們試圖回憶很久以前發生的事情時。但他也指出，大語言模型與人類非常不同且優於人類的是，計算機科學的一個基本原則是，應該將軟體與硬體分開，正是這一點讓人們可以在不同的硬體上運行相同的程序，它使得計算機科學能夠成為一個獨立於電氣工程的領域，如果你做到了這一點，那麼程序中包含的知識就是「不朽的」。
辛頓同時指出，數字計算需要大量能量，但它使得擁有完全相同權重的智能體（Agent）能夠非常容易地共享它們從不同經驗中學到的東西，生物計算需要的能量要少得多，但共享學到的東西卻很困難。如果能源很便宜，數字計算就會好得多。
「這引發我的深切憂慮。人類已習慣作為頂級智能存在，很難想像被更高級智能主導。就像飼養虎崽作為寵物，我們必須確保其成年後不會反噬。」辛頓說，人工智慧在醫療、教育、氣候變化等領域的價值不可替代，單方面禁用人工智慧不現實，建議各國自主開發人工智慧技術，但共享「保持人工智慧良性」的研究成果。
辛頓認為，我們正在創造AI智能體是因為它們更擅長完成任務，這些AI智能體已經具備創造自己子目標的能力。而一旦擁有創造子目標的能力，智能體就會想做兩件事：一是生存，僅僅是為了能夠實現我們賦予它們的目標；二是更多的控制權，也僅僅是為了能夠實現我們賦予它們的目標。因此，人類將會擁有想要生存和想要更多控制權的智能體，「而且我們將無法簡單地關閉它們，它們會發現操縱使用它們的人非常容易，我們將像三歲小孩，而它們將像成年人，所以我認為那種當它們比我們更聰明時，我們就能讓某人把它們關掉的想法是不切實際的，它們將能夠操縱我們，並說服那個應該關掉它們的人不要那麼做」。
辛頓表示，如果人類想要生存，必須找到辦法訓練AI，不要讓AI消滅人類。
「我們目前根本不知道如何做到這一點，長遠來看，這是人類面臨的最重要的問題。好消息是，這是一個所有國家都應該能夠合作解決的問題。」辛頓最後如是說道。
2024年10月8日，瑞典皇家科學院宣布，將2024年諾貝爾物理學獎授予美國普林斯頓大學的約翰·霍普菲爾德和加拿大多倫多大學的傑弗里·辛頓，以表彰他們「為推動利用人工神經網路進行機器學習作出的基礎性發現和發明」。辛頓是卷積神經網路理論的領軍人物，也被視為由ChatGPT掀起的本輪AI技術躍進背後的奠基性科學家，被譽為「AI教父」。
辛頓在卡內基梅隆大學任教五年，後來成為加拿大高等研究院的研究員，並進入多倫多大學計算機科學系任教。辛頓在2013年加入谷歌。因其在深度學習方面的貢獻，他與約書亞·本希奧和楊立昆被一同稱為「深度學習三巨頭」，三人在2018年被授予了圖靈獎。2023年5月，辛頓從谷歌離職。自那以後，他持續公開呼籲謹慎對待AI技術，成為旨在引導AI系統、使其行為符合設計者利益和預期目標的「AI對齊派」的代表。