Các nhà nghiên cứu đã đưa những lời nhắc ẩn trong các bài báo học thuật để thao túng các nhà đánh giá AI

Các nhà nghiên cứu từ các trường đại học nổi tiếng trên toàn thế giới đang che giấu các mệnh lệnh bí mật trong các bài báo học thuật của họ để lừa các hệ thống đánh giá hỗ trợ AI để đưa ra phản hồi tích cực. A

Tuy nhiên, sự biện minh này đã bị từ chối rộng rãi. Satoshi Tanaka, một chuyên gia toàn vẹn nghiên cứu tại Đại học Dược Kyoto, gọi đó là một cái cớ nghèo nàn” trích dẫn Việc thiếu một tiêu chuẩn thống nhất này tạo ra một khu vực màu xám mà một số nhà nghiên cứu hiện đang khai thác. Như Shun Hasegawa của Exawizards đã lưu ý, những lời nhắc ẩn như vậy là một vấn đề toàn vẹn thông tin rộng hơn, vì họ giữ cho người dùng không truy cập đúng thông tin.”Vấn đề cốt lõi là tiềm năng lừa dối khi AI là một trung gian. Một số người trong cộng đồng khoa học hiện đang thảo luận về các bản sửa lỗi kỹ thuật như Watermarking. Các tác phẩm có ảnh hưởng Hiệp hội máy tính (ACM) đã đưa ra một tuyên bố href=”https://publicationethics.org/guidance/discussion-document/artificial-intellect-ai-ai-decision-making”Target=”_ Blank”> Ủy ban về Đạo đức xuất bản (đối thủ) đã thảo luận về vấn đề của AI và đánh giá ngang hàng. Những động thái này báo hiệu sự công nhận chính thức của vấn đề ở cấp độ công nghiệp. Các chuyên gia cho rằng các quy tắc hiện tại về đạo văn và chế tạo không còn đủ nữa. Sự đồng thuận là các hướng dẫn phải phát triển để cấm toàn diện bất kỳ hành động nào làm suy yếu quá trình xem xét. Hiroaki Sakuma thuộc Hiệp hội quản trị AI tin rằng chúng tôi đã đến một điểm mà các ngành công nghiệp nên làm việc theo các quy tắc về cách họ sử dụng AI,”cho thấy nhu cầu về các tiêu chuẩn xuyên ngành để chi phối công nghệ mạnh mẽ này.