防范人工智能可能帶來的風險，使這一技術更好服務于經濟社會發展。
“人工智能是引領這一輪科技革命和產業變革的引領性技術”已成共識。然而隨著人工智能技術發展，信息泄露、大數據殺熟、算法歧視和數字鴻溝等問題也隨之而來。
“整合多學科力量，加強人工智能相關法律、倫理、社會問題研究，建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德。”上海政協會場內，不少委員紛紛建議，上海作為全國人工智能發展高地，應加強人工智能治理工作，防范人工智能可能帶來的風險，使這一技術更好服務于經濟社會發展。
九三學社上海市委在集體提案《關于加強本市人工智能治理工作的建議》中建議，對個人信息過度采集、數據泄露和濫用、知情同意落實不到位等問題開展治理，違法企業承擔法律責任。委員們認為，對隱私信息采集應區分“戰時”和“平時”，堅持“最小夠用”原則：例如“健康碼”采集信息如果疫情后在其他領域使用，必須嚴控制范圍和條件。
此外，九三學社上海市委還建議嚴格限定人臉、指紋、虹膜等個人生物特征的采集權限、使用范圍和應用條件，“除用于國家安全、公共安全外，其他領域未經許可不得擅自采集和使用。”
作為人工智能發展高地，九三學社上海市委建議上海可以在人臉識別、自動駕駛、服務機器人以及醫療、教育等重點領域率先開展地方立法：“在法律對人工智能創造的知識產權保護、侵權責任認定等規定進行修訂或解釋前，本市探索在司法和執法統一標準，為國家層面修法積累經驗。”（上觀新聞 簡工博、張駿）
