Câu hỏi

Trợ lý AI có bịa câu trả lời không?

Có thể. Trợ lý của bạn có bịa hay không phụ thuộc vào cách nó được xây dựng và những gì bạn cung cấp cho nó.

Trả lời nhanh

AI đa năng có thể đưa ra những câu trả lời rất tự tin nhưng sai, thường được gọi là “ảo giác AI”. Một trợ lý tiếp khách nên được giới hạn trong thông tin của chính bạn và nên nói là không biết thay vì đoán. Kioskly AI chỉ trả lời các câu hỏi về doanh nghiệp dựa trên những gì bạn đã thêm, chuyển các câu hỏi về dị ứng, y tế, đặt chỗ và thanh toán cho nhân viên, và liệt kê những câu nó chưa trả lời được để bạn bổ sung.

Vì sao AI bịa ra thông tin

Mô hình ngôn ngữ được tạo ra để viết những câu nghe có vẻ hợp lý. Hỏi một AI thông thường xem một quán cà phê có Wi-Fi không, và khi không có thông tin gì về quán đó, câu trả lời dễ xảy ra nhất là “có”, vì hầu hết quán cà phê đều có. Những câu trả lời nghe hợp lý nhưng sai ra đời như thế. Hướng dẫn về AI tạo sinh của NIST (Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ) xếp hiện tượng này, mà họ gọi là “confabulation” (bịa đặt), vào nhóm rủi ro chính của công nghệ này.

Một câu trả lời sai khiến doanh nghiệp thiệt hại gì

Giờ mở cửa sai khiến khách đi một chuyến uổng công và để lại đánh giá xấu. Chính sách sai có thể gây thiệt hại lớn hơn. Năm 2024, một tòa án ở Canada đã buộc Air Canada bồi thường cho một khách hàng sau khi chatbot trên trang web của hãng mô tả một khoản hoàn tiền vé dành cho người có tang mà chính sách thực tế của hãng không cho phép. Hãng hàng không bị buộc chịu trách nhiệm về những gì chatbot của mình nói.

Và có những câu trả lời sai rất nguy hiểm. “Món này không chứa hạt đúng không?” không phải câu hỏi có thể trả lời bằng cách đoán.

Cách Kioskly AI bám sát sự thật

  • Thông tin của bạn là nguồn duy nhất cho các dữ kiện về doanh nghiệp. Bạn có thứ gì đó hay không, giá bao nhiêu, giờ mở cửa, tiện nghi và chính sách đều chỉ lấy từ ghi chú, trang web và tài liệu của bạn.
  • Không tự suy diễn. Nó sẽ không nói bạn có chỗ đậu xe, Wi-Fi hay nhà vệ sinh chỉ vì hầu hết các doanh nghiệp đều có. Nếu thông tin chưa được ghi lại, nó sẽ nói vậy và hướng khách đến nhân viên của bạn.
  • Mỗi loại hình kinh doanh có quy tắc bắt buộc riêng. Nhà hàng và quán cà phê: mọi câu hỏi về dị ứng đều được chuyển cho nhân viên, kể cả khi ghi chú của bạn có vẻ đã đề cập. Hiệu thuốc: không đưa lời khuyên y tế. Khách sạn: không báo giá phòng, tình trạng phòng trống hay thông tin của khách. Cửa hàng: không hứa hẹn về hàng tồn kho khi không có căn cứ.
  • Không quảng cáo quá lời. Nó sẽ không gọi thứ gì là “được ưa chuộng nhất” trừ khi bạn đã nói vậy.
  • Cho bạn thấy những chỗ còn thiếu. Các câu hỏi nó chưa trả lời được sẽ hiện trên màn hình Trang chủ, để bạn bổ sung câu trả lời một lần là xong.

Khách hàng

Tôi bị dị ứng các loại hạt, ăn mì pesto được không ạ?

Kioskly

Tôi không thể xác nhận về chất gây dị ứng ạ. Quý khách vui lòng hỏi nhân viên, họ sẽ kiểm tra với bếp.

Chế độ nhân viên · Nhà hàng

Những việc bạn có thể làm

  • Nói rõ những gì bạn không có. “Không có chỗ đậu xe; bãi đỗ xe gần nhất ở đường King Street” biến câu “Tôi không biết” thành một câu trả lời hữu ích.
  • Cập nhật thông tin theo mùa ngay trong ngày chúng thay đổi. Giờ mở cửa, thực đơn và giá cả là những thứ hay sai nhất.
  • Thử nó bằng những câu hỏi hóc búa trước khi khách làm điều đó, kể cả những câu nó phải từ chối.
  • Xem danh sách câu hỏi còn thiếu mỗi tuần. Đây là cách nhanh nhất để trợ lý tốt hơn.

Câu hỏi thường gặp

Trợ lý AI có thể chính xác 100% không?

Không, và bạn nên cảnh giác với bất kỳ ai nói vậy. Nó có thể rất đáng tin cậy với những câu hỏi mà thông tin của bạn bao quát, và thành thật với những câu không có trong đó. Hãy kiểm tra các câu trả lời khi bạn thiết lập và mỗi khi thông tin của bạn thay đổi.

Tôi nên làm gì nếu nó trả lời sai?

Hãy tìm thông tin nó đã dùng rồi sửa lại hoặc bổ sung. Phần lớn câu trả lời sai đến từ thông tin cũ hoặc bị thiếu, như giờ mở cửa của mùa trước.

Kioskly AI có bao giờ dùng kiến thức chung không?

Chỉ để giải thích những gì bạn đã ghi lại, chẳng hạn flat white là gì nếu món này có trong thực đơn của bạn. Kiến thức chung không bao giờ quyết định bạn có thứ gì đó hay không, giá bao nhiêu hay có an toàn không.

Nguồn và tài liệu đọc thêm

  1. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1) — NIST, 2024
  2. Moffatt v. Air Canada, 2024 BCCRT 149 — Civil Resolution Tribunal of British Columbia (tòa giải quyết tranh chấp dân sự của tỉnh British Columbia, Canada)