防范人工智能可能帶來的風(fēng)險，使這一技術(shù)更好服務(wù)于經(jīng)濟社會發(fā)展。
“人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的引領(lǐng)性技術(shù)”已成共識。然而隨著人工智能技術(shù)發(fā)展，信息泄露、大數(shù)據(jù)殺熟、算法歧視和數(shù)字鴻溝等問題也隨之而來。
“整合多學(xué)科力量，加強人工智能相關(guān)法律、倫理、社會問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德。”上海政協(xié)會場內(nèi)，不少委員紛紛建議，上海作為全國人工智能發(fā)展高地，應(yīng)加強人工智能治理工作，防范人工智能可能帶來的風(fēng)險，使這一技術(shù)更好服務(wù)于經(jīng)濟社會發(fā)展。
九三學(xué)社上海市委在集體提案《關(guān)于加強本市人工智能治理工作的建議》中建議，對個人信息過度采集、數(shù)據(jù)泄露和濫用、知情同意落實不到位等問題開展治理，違法企業(yè)承擔(dān)法律責(zé)任。委員們認(rèn)為，對隱私信息采集應(yīng)區(qū)分“戰(zhàn)時”和“平時”，堅持“最小夠用”原則：例如“健康碼”采集信息如果疫情后在其他領(lǐng)域使用，必須嚴(yán)控制范圍和條件。
此外，九三學(xué)社上海市委還建議嚴(yán)格限定人臉、指紋、虹膜等個人生物特征的采集權(quán)限、使用范圍和應(yīng)用條件，“除用于國家安全、公共安全外，其他領(lǐng)域未經(jīng)許可不得擅自采集和使用。”
作為人工智能發(fā)展高地，九三學(xué)社上海市委建議上海可以在人臉識別、自動駕駛、服務(wù)機器人以及醫(yī)療、教育等重點領(lǐng)域率先開展地方立法：“在法律對人工智能創(chuàng)造的知識產(chǎn)權(quán)保護、侵權(quán)責(zé)任認(rèn)定等規(guī)定進行修訂或解釋前，本市探索在司法和執(zhí)法統(tǒng)一標(biāo)準(zhǔn)，為國家層面修法積累經(jīng)驗。”（上觀新聞 簡工博、張駿）
