Ứng dụng AI trong doanh nghiệp: Cẩn trọng 'bẫy' ảo giác và rủi ro khủng hoảng
Sáng 14/7, tại Văn phòng phía Nam - Tổng hội NN&PTNT Việt Nam (số 12 Võ Văn Kiệt, P. Sài Gòn, TP.HCM) đã diễn ra buổi sinh hoạt chuyên đề về quản trị thông tin và xử lý khủng hoảng truyền thông trong thời đại AI.
Sự kiện nhằm cảnh báo và hướng dẫn các doanh nghiệp cách ứng dụng AI an toàn, tránh biến công cụ này thành tác nhân gây rủi ro thương hiệu.
Phát biểu mở đầu buổi sinh hoạt, ông Nguyễn Đức Quang - Phó chủ tịch phụ trách phía Nam, kiêm Trưởng Ban truyền thông Tổng hội NN&PTNT Việt Nam, nhìn nhận quản trị thông tin hiện nay là bài toán vô cùng phức tạp.
Bằng góc nhìn của người có hơn 40 năm kinh nghiệm báo chí, ông đánh giá sự bùng nổ của AI và mạng xã hội đã biến mỗi cá nhân thành một kênh thông tin độc lập. Nếu doanh nghiệp thụ động, hậu quả để lại khi xảy ra khủng hoảng sẽ rất nặng nề.
Nguy cơ từ ‘bẫy ảo giác’ khi ứng dụng AI
Chia sẻ với hơn 20 đại diện các doanh nghiệp thành viên của Tổng hội tại khu vực phía Nam, Thạc sĩ Đặng Bùi Khuê từ Công ty đào tạo SMP Consulting & Training chỉ ra rủi ro lớn nhất của trí tuệ nhân tạo tạo sinh là tính không chính xác.
Theo chuyên gia, nhiều người lầm tưởng AI là cỗ máy tra cứu sự thật. Thực tế, các mô hình ngôn ngữ lớn hoạt động dựa trên xác suất thống kê để dự đoán từ tiếp theo.
“Do ưu tiên tạo ra văn bản trôi chảy, AI rất dễ sinh ra hiện tượng ‘ảo giác’, tự bịa số liệu, gán sai phát ngôn hoặc tạo ra những cái tên chuyên gia không có thật. Chỉ cần một trích dẫn sai trong thông cáo báo chí do AI viết lọt ra ngoài, doanh nghiệp hoàn toàn có thể đối mặt với một cuộc khủng hoảng diện rộng. Để phòng ngừa, người dùng luôn phải yêu cầu AI trích rõ nguồn, đối chiếu tài liệu gốc hoặc dùng một AI khác hệ sinh thái để kiểm tra chéo”, ông Khuê cho biết.
Ngoài ra, ông Khuê cũng khuyến cáo áp dụng khung tiêu chuẩn gồm sáu yếu tố cốt lõi là vai trò, bối cảnh, mục tiêu, định dạng, hạn chế và đầu ra.
Trong đó, việc thiết lập ranh giới hạn chế cho những thông tin nhạy cảm hay cấm kỵ là bước quan trọng nhất nhưng lại thường bị người dùng bỏ qua.
Đặc biệt, trước khi ban hành bất kỳ nội dung nào do AI hỗ trợ soạn thảo, văn bản phải vượt qua hệ thống rà soát ba lớp nghiêm ngặt.
Lớp đầu tiên là pháp lý, nhằm đảm bảo từ ngữ không mang tính phỉ báng, quảng cáo sai sự thật hay bị hiểu lầm là cam kết pháp lý.
Tiếp đến là lớp thương hiệu để kiểm tra độ phù hợp với bộ nhận diện và tính nhất quán so với các phát ngôn trước đây.
Cuối cùng là lớp đạo đức AI, giúp loại bỏ sự thiên lệch, ngăn chặn việc vô tình tiết lộ tài liệu mật và gọt giũa để văn bản không mang nặng văn phong máy móc.
AI - Trợ lý cảnh báo sớm, nhưng con người vẫn là chốt chặn cuối cùng
Bên cạnh rủi ro, Thạc sĩ Đặng Bùi Khuê cũng cho rằng, AI cũng đang chứng minh sức mạnh khi làm trợ lý cảnh báo sớm.
Hệ thống có thể quét liên tục các từ khóa rủi ro thuộc nhóm an toàn sản phẩm, pháp lý, môi trường, lao động, uy tín lãnh đạo và tin giả.
Nhờ đó, doanh nghiệp dễ dàng phát hiện các tín hiệu yếu, ví dụ như một bình luận tiêu cực lẻ loi trên diễn đàn vốn dễ bị con người bỏ qua.
Hệ thống sẽ tự động chấm điểm mức độ nghiêm trọng dựa trên tốc độ lan truyền, hiển thị lên bảng điều khiển và đề xuất ngay các kịch bản phản hồi tạm thời theo thời gian thực.
Tuy nhiên chuyên gia Đặng Bùi Khuê cũng nhấn mạnh, dù công nghệ có thông minh và tốc độ đến đâu, nguyên tắc tối thượng là con người phải luôn là chốt chặn cuối cùng.
Do đó, mọi cảnh báo khủng hoảng ở mức độ cao hay một văn bản truyền thông hoàn hảo do máy nhào nặn đều phải qua mắt người có thẩm quyền phê duyệt trước khi công bố ra công chúng.
