1 月 25 日消息，自從人工智能研究公司 OpenAI 于 2022 年 11 月發布 AI 聊天機器人 ChatGPT 以來，后者在科技領域受到熱捧，但科技巨頭亞馬遜卻對其充滿了警惕，甚至警告員工不要與 ChatGPT 分享機密信息。
亞馬遜內部 Slack 頻道有許多員工關于如何使用 ChatGPT 的問題。有些員工詢問亞馬遜，是否制定了關于在工作設備上使用 ChatGPT 的官方指導。而其他人則想知道，他們是否被允許使用 AI 工具工作。一位員工敦促亞馬遜云計算部門 AWS 澄清其對使用“生成性 AI(AIGC)工具”的立場。
很快，亞馬遜一名公司律師加入了討論。Slack 頻道的內部交流截圖顯示，這位律師警告員工不要向 ChatGPT 提供“任何亞馬遜機密信息”，包括正在編寫的亞馬遜代碼。他還建議員工遵循公司現有的保密政策，因為 ChatGPT 的某些回復看起來與亞馬遜內部情況十分相似。
這位律師寫道：“這一點至關重要，因為你的輸入可能會被用作 ChatGPT 的迭代訓練數據，我們不希望它的輸出中包含或類似于我們的機密信息。”
這些交流表明，ChatGPT 突然出現后引發了許多新的倫理問題。ChatGPT 是一種對話式 AI 工具，可以用更清晰、更智能化的答案回應查詢。ChatGPT 的迅速擴散有可能顛覆多個行業，包括媒體、學術和醫療保健行業等，促使人們努力尋找聊天機器人的新用例及其可能產生的影響。
員工如何與 ChatGPT 共享機密信息，以及其開發者 OpenAI 如何處理這些信息，可能會成為非常棘手的問題。這對亞馬遜來說尤其重要，因為其主要競爭對手微軟已經在 OpenAI 投入了大量資金，包括本周新一輪的融資，據報道總計達 100 億美元。
在華盛頓大學教授計算語言學的艾米麗?本德(Emily Bender)說：“OpenAI 在如何使用數據方面還遠遠不夠透明，但如果這些數據被用于訓練，我預計企業會這樣想：在廣泛使用 ChatGPT 幾個月后，是否可能通過精心設計的提示來獲取私人公司的機密信息?”
亞馬遜為員工使用 ChatGPT 設置了許多內部防護措施。例如，交流的信息截圖顯示，當員工使用工作設備訪問 ChatGPT 網站時，會彈出一條警告消息，稱他們即將訪問一項第三方服務，該服務“可能未被亞馬遜安全部門批準使用”。
參與 Slack 頻道聊天的員工表示，他們只需點擊“Acknowledge”選項卡，就可以繞過這條消息。工作人員猜測，該警告彈出窗口是為了防止員工將機密信息粘貼到 ChatGPT 上，特別是因為他們還沒有看到公司關于內部使用的政策。
盡管如此，有些亞馬遜員工已經在將 AI 工具用作軟件“編碼助手”，以幫助改進內部代碼行。一位亞馬遜員工在 Slack 頻道上寫道：“我認為，如果現在能直接使用這一功能，那就太棒了!因此，任何指導意見都將是非常棒的。”
既擔憂又興奮
另一名員工說，他在 ChatGPT 上分享了亞馬遜對一個公開編程職位的面試問題。根據這位員工在 Slack 上的帖子，該 AI 模型為其中幾個技術問題提供了正確的解決方案。他說：“看到這將對我們進行編程面試的方式產生什么影響，我既感到擔憂又覺得興奮。”
總體而言，參與 Slack 頻道聊天的亞馬遜員工對 ChatGPT 的潛力感到興奮，并想知道亞馬遜是否正在開發與之競爭的產品。警告員工不要使用 ChatGPT 的公司律師表示，亞馬遜正在加速開發“類似的技術”，并引用了語音助手 Alexa 和代碼推薦服務 CodeWhisperer 為例。
一名 AWS 員工寫道，Enterprise Support 團隊最近在內部成立了小型工作組，以“了解高級聊天 AI 對我們業務的影響”。研究顯示，ChatGPT 在回答 AWS 支持問題方面“表現非常好”，包括解決 Aurora 數據庫問題等。與此同時，它在為 AWS 認證的云架構師考試創建培訓材料方面、提出客戶的公司目標方面也非常出色。
“遠不夠透明”
華盛頓大學的本德表示，在工作中越來越多地使用 ChatGPT 引發了嚴重的問題，即 OpenAI 計劃如何使用與 AI 工具共享的材料。
OpenAI 的服務條款要求用戶同意其可以使用用戶和 ChatGPT 所產生的所有輸入和輸出。它還表示，OpenAI 從使用的數據中刪除了所有個人身份信息 (PII)。
但本德稱，考慮到 ChatGPT 的規模迅速增長，在推出一周內就突破了 100 萬用戶，很難看出 OpenAI 如何識別和刪除所有個人信息。更重要的是，公司的知識產權可能不屬于 PII 定義的一部分。
對于亞馬遜的員工來說，數據隱私似乎是他們最不關心的問題。他們說，在工作中使用聊天機器人已經使工作效率提高了 10 倍，許多人都希望能加入開發類似服務的內部團隊。
其中一名員工在 Slack 上寫道：“如果現在有建立類似服務的計劃，我非常希望能加入其中，在有需要的時候略盡綿薄之力。”
關鍵詞： 亞馬遜
