Gartner發(fā)布了備受矚目的企業(yè)人工智能治理指南，該指南以廣泛認可的企業(yè)通用治理框架為基礎，系統(tǒng)性地確定了針對該框架六大支柱的人工智能特定因素。這份指南為企業(yè)，尤其是那些在人工智能基礎軟件開發(fā)領域投入巨大的組織，提供了一個清晰、可操作的治理藍圖，旨在應對AI技術帶來的獨特風險與機遇，確保其負責任、合規(guī)且高效地發(fā)展。

指南的核心在于，將成熟的企業(yè)治理原則與人工智能（特別是基礎軟件開發(fā)）的特殊性相結合。其框架的六大支柱分別從不同維度構建了治理體系，而針對每一支柱，指南都明確了關鍵的AI特定考量因素。

支柱一：戰(zhàn)略與目標
在通用層面，此支柱關注業(yè)務戰(zhàn)略與治理目標的一致性。對于AI基礎軟件開發(fā)，特定因素包括：明確AI開發(fā)的戰(zhàn)略意圖（是構建核心競爭力還是提升運營效率？），制定可衡量的AI倫理準則，以及確保AI項目與企業(yè)的長期技術路線圖和商業(yè)價值創(chuàng)造緊密對齊。治理需回答“我們?yōu)楹我_發(fā)此AI軟件”的根本問題。

支柱二：組織結構與角色
通用治理強調清晰的權責劃分。在AI領域，這轉化為設立專門的AI治理委員會或首席AI倫理官等角色。對于基礎軟件開發(fā)團隊，需明確定義開發(fā)者、算法科學家、產品經理、合規(guī)官等在模型設計、數(shù)據(jù)使用、測試部署各環(huán)節(jié)的職責，并建立跨職能的協(xié)同機制，確保技術決策受到必要的業(yè)務與合規(guī)審視。

支柱三：政策與流程
這是將原則落地的關鍵。針對AI基礎軟件，需制定專門的政策與流程，涵蓋：

• 數(shù)據(jù)治理：訓練數(shù)據(jù)的來源、質量、偏見評估、隱私保護（如匿名化處理）流程。
• 模型開發(fā)生命周期管理：從需求分析、設計、訓練、驗證到部署、監(jiān)控與退役的全流程標準。
• 風險管理：識別并緩解AI系統(tǒng)可能帶來的安全性、公平性、可解釋性、可靠性風險的具體程序。
• 合規(guī)流程：確保開發(fā)活動符合各地區(qū)（如歐盟的AI法案）及行業(yè)法規(guī)的要求。

支柱四：人才與文化
通用治理重視組織能力與文化。在AI基礎軟件開發(fā)中，這意味著：投資于提升全員（不僅是技術人員）的AI素養(yǎng)；培養(yǎng)負責任創(chuàng)新的文化，鼓勵對算法倫理的探討；吸引和保留兼具技術專長與倫理意識的復合型人才；建立安全、透明的內部反饋與問責文化。

支柱五：技術與信息
此支柱關注支撐治理的技術與數(shù)據(jù)基礎。對于AI開發(fā)，特定因素包括：

• 工具鏈與平臺：采用支持可追溯性、版本控制和模型性能監(jiān)控的開發(fā)運維一體化（MLOps）平臺。
• 可解釋性與透明度工具：集成能夠解釋模型決策、檢測偏見的技術工具。
• 信息安全：強化模型資產、訓練數(shù)據(jù)及API接口的安全防護。
• 信息架構：確保高質量、合規(guī)的數(shù)據(jù)能夠被有效、安全地用于AI訓練與評估。

支柱六：績效與監(jiān)督
通用治理要求度量和持續(xù)改進。在AI領域，監(jiān)督需超越傳統(tǒng)IT績效指標，建立涵蓋以下維度的評估體系：

• 模型性能指標：準確性、魯棒性、公平性（如不同群體間的性能差異）、效率。
• 業(yè)務影響指標：AI軟件帶來的實際業(yè)務價值、投資回報率。
• 合規(guī)與風險指標：審計發(fā)現(xiàn)、偏差事件、用戶投訴、法規(guī)遵從狀態(tài)。
• 持續(xù)監(jiān)控與審計：對已部署AI系統(tǒng)進行持續(xù)性能監(jiān)控和定期倫理與合規(guī)審計的機制。

對人工智能基礎軟件開發(fā)的啟示
對于從事AI基礎軟件開發(fā)的企業(yè)而言，此指南強調治理必須“左移”，即從項目伊始就融入治理考量，而非事后補救。開發(fā)團隊需要在編寫第一行代碼前，就思考其工作的倫理影響、數(shù)據(jù)依賴和合規(guī)要求。將治理視為賦能而非束縛，通過清晰的政策和自動化工具，既能管控風險，又能提升開發(fā)效率與模型質量，最終構建出更可信、更可持續(xù)的AI基礎軟件產品。

Gartner的這份指南為企業(yè)提供了一套將AI治理，特別是基礎軟件開發(fā)的治理，從理論概念轉化為具體實踐的框架。通過圍繞六大支柱系統(tǒng)性地融入AI特定因素，企業(yè)可以更有信心地駕馭人工智能浪潮，確保技術創(chuàng)新在可控的軌道上創(chuàng)造長期價值。