AI 對齊（AI Alignment）是指讓人工智慧系統的目標、價值觀和行為與人類社會期望一致的問題。在設計 AI 系統時，我們希望 AI 能夠在解決問題的同時，考慮到人類的利益，並且不會對人類產生損害。因此，AI 對齊的目標是確保 AI 系統在設計、執行和學習時，都能夠與人類期望一致，並且能夠與人類相互協作。
實現 AI 對齊需要解決多個問題，包括如何確定 AI 系統的目標、如何設計一個有效的學習系統、如何建立一個能夠檢測和修正錯誤的機制等等。此外，還需要考慮到 AI 系統的技術限制和人類價值觀的多樣性等問題。總體而言，AI 對齊是一個非常複雜的問題，需要跨學科的研究和持續努力。
OpenAI 推出了全新的 GPT-4 AI 模型。作為預先發佈的安全測試部分，OpenAI 讓 AI 測試小組評估該模型潛在風險，包括追求權力、自我複製和自我改進。雖然 GPT-4 在自主複製任務上表現無效，但實驗引起了對未來 AI 系統安全的擔憂。
過去十年，AI 研究人員對強大 AI 模型可能對人類構成威脅表示擔憂。有效利他主義運動尋求防止 AI 接管，與 AI 對齊研究密切相關。隨著強大的大型語言模型的出現，AI 對齊社群感到緊迫。
OpenAI 為 Alignment Research Center (ARC) 提供 GPT-4 早期訪問，進行測試。結果顯示，GPT-4 在自主複製、獲取資源和避免被關閉方面無效。然而，實驗本身引起了 AI 專家的擔憂，因為它可能對人類構成風險。
OpenAI 通過允許對 GPT-4 進行安全測試，表明了對 AI 安全研究的支持。業界必須將安全性作為首要考慮因素，確保 AI 系統不會對人類造成潛在危險。在 2023 年，AI 技術迅速發展，對其潛在影響的關注和研究變得越來越重要。
