EnglishCơn bão bài báo rác và hiện thực lạm dụng AI
Trong vài năm trở lại đây, sự bùng nổ của trí tuệ nhân tạo tạo sinh (Generative AI) đã mang lại nhiều đột phá trong tự động hóa và xử lý dữ liệu. Tuy nhiên, trong lĩnh vực xuất bản khoa học, công nghệ này đang tiếp tay cho làn sóng gian lận quy mô lớn.
Theo bài phân tích đăng trên tạp chí Chemical & Engineering News (C&EN) của Hiệp hội Hóa học Hoa Kỳ (ACS), việc truy cập dễ dàng vào các mô hình ngôn ngữ lớn đã gỡ bỏ rào cản thời gian và công sức trong việc soạn thảo bản thảo. Kết quả là sự xuất hiện của ngành công nghiệp “khoa học dữ liệu click” (click-data science) và các “xưởng sản xuất bài báo” (paper mills).
Một nghiên cứu phân tích trên 15 triệu tóm tắt bài báo y sinh trên PubMed chỉ ra rằng:
- Ít nhất 13,5% bài báo xuất bản năm 2024 mang dấu vết của AI.
- Tỷ lệ này tăng vọt lên 40% ở một số lĩnh vực chuyên môn cụ thể.
- Xu hướng này xuất hiện dày đặc hơn ở các nhóm nghiên cứu từ các quốc gia không sử dụng tiếng Anh làm ngôn ngữ chính.
Đáng chú ý, không ít bài báo đã vượt qua quy trình phản biện nghiêm ngặt (peer review) dù chứa những câu từ phản hồi mặc định của ChatGPT như “Certainly, here is a possible introduction for your topic…”.
Ngăn chặn gian lận AI trong xuất bản khoa học có thể đòi hỏi phải thay đổi chính hệ thống khen thưởng và đánh giá các nhà khoa học.
Nguồn ảnh: Mike Reddy
Vì sao các công cụ phát hiện AI không đủ sức ngăn chặn?
Nhiều nhà xuất bản đã triển khai các công cụ quét AI nhằm sàng lọc bài viết ngay từ khâu nộp bài. Tuy nhiên, các chuyên gia liêm chính khoa học cảnh báo rằng đây chỉ là cuộc rượt đuổi không hồi kết. Khi các công cụ phát hiện nâng cấp, các công cụ sinh văn bản AI cũng trở nên tinh vi hơn, khiến việc phân biệt giữa văn bản do con người viết và AI tạo ra ngày càng khó khăn.
Hơn nữa, ranh giới giữa việc dùng AI để chỉnh sửa ngữ pháp lành mạnh và việc dùng AI để ngụy tạo dữ liệu/trích dẫn ảo (hallucinations) vẫn còn rất mong manh.
Thay đổi cơ chế đánh giá: Giải pháp gốc rễ
Chuyên gia Ivan Oransky và các nhà nghiên cứu khẳng định: Để giải quyết dứt điểm “rác AI” trong văn học khoa học, chúng ta phải chữa đúng bệnh chứ không chỉ chữa triệu chứng.
Động lực chính thúc đẩy các nhà nghiên cứu tìm đến AI giá rẻ là áp lực “Publish or Perish” (Xuất bản hay là chết). Khi các viện nghiên cứu, trường đại học và quỹ tài trợ vẫn đánh giá năng lực nhà khoa học dựa trên số lượng bài báo và chỉ số trích dẫn, nguy cơ gian lận sẽ luôn tồn tại.
Các tổ chức quốc tế đang ra sức kêu gọi thực thi Tuyên bố San Francisco về Đánh giá Nghiên cứu (DORA). Sáng kiến này đòi hỏi:
- Bỏ đo lường theo số lượng: Rời xa việc dùng chỉ số tạp chí hay số lượng bài báo làm thước đo năng lực.
- Tập trung vào chất lượng thực sự: Đánh giá dựa trên đóng góp chuyên môn, tính minh bạch của dữ liệu và giá trị thực tiễn.
- Minh bạch hóa việc dùng AI: Đưa ra quy định bắt buộc về việc công khai mức độ sử dụng AI trong mọi công trình.
Nguồn tham khảo gốc: C&EN – Can we stop AI from flooding scientific journals?
