Meta 識別有害內容的演算法錯誤地標記了其使命宣言“讓世界更緊密地聯繫在一起”，這表明“Meta”與“恐怖組織”概念之間具有極高的相關性。 >
該事件導致塞巴斯蒂安·卡洛斯（Sebastian Carlos）迅速被解僱，他是一名新聘員工，負責徹底修改演算法，引發了有關人工智慧在內容審核中的作用的道德和技術問題，正如他回憶的那樣。 h2>粗體內容審核的徹底改革
當開發人員Sebastian Carlos 作為新員工加入Meta 的「有害內容檢測」團隊的第一周時，爭議就開始了。他們的任務是提高 Meta 內容審核系統的效率和準確性，他們發現了現有演算法的重大缺陷。
Carlos 提出使用<進行徹底重寫a href="https://en.wikipedia.org/wiki/Prolog">Prolog，一種程式語言，以其處理符號推理和複雜關係的能力而聞名。 Prolog 的聲明性質使其特別適合分析有害內容的細微定義。透過這種多方面的方法，卡洛斯旨在確保文化和背景的包容性。然而，這種方法也需要大量的計算資源。
相關:祖克柏停止事實查核的舉措受到川普和馬斯克的讚揚，批評者感到震驚
卡洛斯解釋了Meta 的內部成本指標，幽默地稱為「危地馬拉年」（相當於危地馬拉的GDP）被用來證明計算費用的合理性。帖子，根據高度詳細的道德拓撲分析其內容。運行。
調試沒有發現邏輯錯誤。這意想不到的結果凸顯了訓練人工智慧系統駕馭道德和傷害等模糊概念的挑戰。一些工程師稱讚該演算法的嚴謹性，而另一些工程師則擔心潛在的公共關係影響。據報道，一位高級經理告訴卡洛斯:「看，這…令人印象深刻，但我們不能像這樣達到我們的OKR。」強調了技術準確性和組織優先級之間的緊張關係和日益擴大的分歧。演算法決策背後的邏輯，但該員工的工作遭到了高層的抵制。
A 雙重 NDA，也稱為雙邊或相互NDA 是一項具有法律約束力的協議，涉及雙方相互披露機密資訊並同意保護該資訊免遭進一步披露。
卡洛斯寫道，他的律師建議此類協議可能會相互抵消，從而允許員工公開討論他們的經歷。在反思自己被解僱時，他寫道:「考慮到他們因為我說了一些真相而解雇了我，我認為我應該向互聯網了解整個故事。」
人工智慧在適度方面的作用
Meta 的內容審核工具對於管理其平台上大量用戶生成的內容至關重要，該公司對人工智慧的依賴既是必要的，也是爭議的根源，批評者指出了過度使用或過度使用的情況。批評者可能會將其解讀為演算法效率的標誌。但對卡洛斯來說，這個結果結束了本來就很艱難的開始。編碼挑戰，糾正和改進卡洛斯提出的解決方案。然後，他向面試官提出了自己的發現，甚至在開始Meta 時利用這一事件討價還價更高的薪水，實際上是在勒索他。經歷讓人們注意到了意想不到的後果。
標記的任務說明可能是異常或精確匹配。不管怎樣，Meta 絕對不會深究這個問題。
