Encode, một tổ chức phi lợi nhuận do thanh niên lãnh đạo ủng hộ việc quản trị AI có trách nhiệm, đã đệ trình một bản tóm tắt phản đối việc OpenAI chuyển đổi sang Tập đoàn Phúc lợi Công cộng (PBC).

Hồ sơ pháp lý, được gửi tới Tòa án quận của Hoa Kỳ cho Quận Bắc California, ủng hộ vụ kiện đang diễn ra của Elon Musk và nêu lên những lo ngại đáng kể về ý nghĩa đạo đức của việc phát triển trí tuệ nhân tạo tổng hợp (AGI) vì lợi nhuận.

“Tòa án phải can thiệp để đảm bảo việc phát triển AI phục vụ lợi ích lợi ích công cộng”, đã nhận xét Chủ tịch của Encode, Sneha Revanur, đã ủng hộ sáng kiến ​​này. chẳng hạn như Geoffrey Hinton, việc nộp đơn nhấn mạnh những rủi ro khi ưu tiên lợi nhuận của nhà đầu tư hơn sự an toàn và phúc lợi của nhân loại.

An toàn công cộng và lợi nhuận: Cuộc tranh luận cốt lõi

Thông báo mới nhất của OpenAI vào ngày 28 tháng 12 năm 2024, tiết lộ kế hoạch chuyển bộ phận vì lợi nhuận của mình thành PBC vào năm 2025. Cấu trúc này nhằm thu hút đầu tư quy mô lớn trong khi vẫn duy trì sự tập trung bắt buộc về mặt pháp lý vào lợi ích xã hội. Tuy nhiên, bản tóm tắt của Encode lập luận rằng sự cân bằng này vốn có sai sót, đặc biệt đối với một tổ chức cam kết phát triển AGI.

“Kiểm soát việc phát triển và triển khai AGI là tài sản từ thiện không nên bán với bất kỳ giá nào,”Encode nêu trong hồ sơ của mình.

Bản tóm tắt chỉ trích việc tái cơ cấu OpenAI là một sự khởi đầu cơ bản khỏi nguồn gốc phi lợi nhuận của nó, cảnh báo rằng sự thay đổi này gây nguy hiểm cho các cam kết như ngừng cạnh tranh để hỗ trợ các dự án AGI liên quan đến an toàn khác.

Thách thức pháp lý của Musk và vai trò của Microsoft

Vụ kiện của Elon Musk, được đệ trình vào tháng 8 năm 2024, cáo buộc OpenAI phản bội sứ mệnh phi lợi nhuận của mình và củng cố quyền lực với các bên liên quan của công ty như Microsoft. Khoản đầu tư 13 tỷ USD mang lại cho họ ảnh hưởng quá mức đối với hoạt động quản trị của OpenAI, biến nó thành một công ty con hoạt động vì lợi nhuận.

Hồ sơ pháp lý của Musk cáo buộc rằng hoạt động quản trị của OpenAI đã trở thành vấn đề chịu ảnh hưởng không cân xứng của Microsoft, điều chỉnh một cách hiệu quả các ưu tiên của mình với các mục tiêu hướng đến lợi nhuận, nêu bật các thỏa thuận độc quyền nhằm hạn chế cạnh tranh và ưu tiên lợi ích của cổ đông. Bản tóm tắt của Encode phù hợp với những lời chỉ trích này, nhấn mạnh sự không tương thích giữa động cơ lợi nhuận cá nhân với trách nhiệm giải trình trước công chúng trong việc phát triển AGI.

Vai trò vừa là nhà đầu tư chính vừa là đối tác chiến lược của Microsoft đã làm phức tạp thêm câu chuyện. Trong khi cơ sở hạ tầng đám mây Azure hỗ trợ các hoạt động của OpenAI, tranh chấp tài nguyên ngày càng gia tăng và việc Microsoft phát triển các mô hình AI nội bộ cho thấy có thể xảy ra xích mích trong mối quan hệ của họ.

Áp lực tài chính đằng sau việc tái cơ cấu

Việc tái cơ cấu của OpenAI được thúc đẩy bởi những thách thức tài chính ngày càng gia tăng. Tổ chức này dự đoán khoản lỗ 5 tỷ USD vào năm 2024, với mức thâm hụt lũy kế có khả năng lên tới 44 tỷ USD vào năm 2028. Chỉ riêng chi phí điện toán hàng năm dự kiến ​​sẽ tăng lên 9,5 tỷ USD vào năm 2026 khi tổ chức phát triển các mô hình AI ngày càng phức tạp.

Để Để giải quyết những thách thức này, OpenAI đã giới thiệu các chiến lược doanh thu mới, bao gồm gói đăng ký ChatGPT Pro trị giá 200 USD/tháng cho người dùng doanh nghiệp và hợp tác với các nhà sản xuất chất bán dẫn như TSMC và Broadcom để phát triển chip AI tùy chỉnh. Những nỗ lực này nhằm mục đích tối ưu hóa hiệu quả tính toán và giảm chi phí đào tạo, nhưng chúng cũng nhấn mạnh quy mô đầu tư cần thiết để duy trì nghiên cứu AGI.

Giám đốc điều hành của OpenAI, Sam Altman, coi quá trình chuyển đổi là cần thiết, ông nói rằng: “Khi chúng ta bước vào năm 2025 , chúng tôi sẽ không chỉ là một phòng thí nghiệm và một công ty khởi nghiệp — chúng tôi phải trở thành một công ty lâu dài.”

Định nghĩa lại AGI trong các điều khoản tài chính

Nội bộ tài liệu tiết lộ OpenAI có đã liên kết việc hiện thực hóa AGI với tiêu chuẩn lợi nhuận tích lũy 100 tỷ USD, một sự khác biệt đáng kể so với các định nghĩa truyền thống nhấn mạnh vào năng lực công nghệ. Chỉ số tài chính này phù hợp với các ưu tiên của nhà đầu tư nhưng đặt ra câu hỏi về đạo đức về sứ mệnh dài hạn của tổ chức.

Điều này. điểm chuẩn cũng củng cố mối quan hệ của OpenAI với Microsoft, công ty duy trì quyền truy cập độc quyền vào các mô hình và cơ sở hạ tầng của OpenAI cho đến khi đạt được ngưỡng. Các nhà phê bình, bao gồm cả Encode, cho rằng sự sắp xếp này minh họa cho những rủi ro khi tập trung kiểm soát AGI trong nội bộ công ty.

Bối cảnh lịch sử: Sự phát triển của OpenAI

Được thành lập vào năm 2015 với tư cách là một phòng thí nghiệm nghiên cứu phi lợi nhuận, OpenAI hướng tới việc thúc đẩy các công nghệ AI vì lợi ích xã hội mà không bị ràng buộc bởi lợi nhuận tài chính. Nguồn tài trợ ban đầu đến từ những gã khổng lồ công nghệ như Google và Microsoft, cho phép nghiên cứu đột phá về robot, học tập tăng cường và mô hình ngôn ngữ.

Tuy nhiên, đến năm 2019, chi phí leo thang đã thúc đẩy tổ chức áp dụng mô hình giới hạn lợi nhuận, thu hút khoản đầu tư 1 tỷ USD từ Microsoft và tung ra các sản phẩm thương mại như ChatGPT. Bất chấp những thành công này, áp lực tài chính vẫn tiếp tục gia tăng, thúc đẩy quá trình chuyển đổi mới nhất sang cấu trúc PBC.

Email được tiết lộ Căng thẳng trong quản trị

Các email nội bộ được tiết lộ gần đây làm sáng tỏ sự ủng hộ ban đầu của Musk đối với cơ cấu vì lợi nhuận. Trong một cuộc trao đổi năm 2017, Musk đã đề xuất sáp nhập OpenAI với Tesla để đảm bảo hàng tỷ đô la cần thiết để cạnh tranh với Google. Musk viết: “Điều này cần hàng tỷ USD mỗi năm ngay lập tức, nếu không hãy quên nó đi”.

Những đề xuất này đã gây ra sự phản đối từ những người đồng sáng lập như Ilya Sutskever, người lập luận rằng: “Quyền kiểm soát tuyệt đối đối với AGI không phù hợp với sứ mệnh của chúng tôi”. Căng thẳng kéo theo lên đến đỉnh điểm khi Musk rời khỏi hội đồng quản trị của OpenAI vào năm 2018.

Những tác động đối với đạo đức và quản trị AI

Cuộc chiến pháp lý về việc tái cơ cấu OpenAI làm nổi bật những căng thẳng rộng lớn hơn trong ngành công nghiệp AI, nơi các tổ chức vật lộn với việc cân bằng giữa đổi mới, tài trợ và trách nhiệm giải trình về mặt đạo đức. Hồ sơ của Encode nhấn mạnh tầm quan trọng của việc đảm bảo sự phát triển AGI vẫn phù hợp với phúc lợi công cộng hơn là động cơ lợi nhuận của nhà đầu tư.

Khi phiên tòa ngày 14 tháng 1 đến gần, kết quả sẽ không chỉ định hình quỹ đạo của OpenAI mà còn ảnh hưởng đến các mô hình quản trị trên toàn thế giới lĩnh vực AI. Sự can thiệp của Encode tăng cường lời kêu gọi về tính minh bạch và trách nhiệm giải trình trước công chúng tại một trong những cuộc tranh luận công nghệ có hậu quả nghiêm trọng nhất của thế kỷ 21.

Categories: IT Info