การตัดสินใจดังกล่าวเกิดขึ้นหลังจากหนังสือพิมพ์ The Guardian เปิดเผยว่า ระบบ AI สร้างสรรค์ของ Google ได้ให้ข้อมูลสุขภาพที่ไม่ถูกต้องและอาจทำให้เข้าใจผิดในอันดับต้น ๆ ของผลการค้นหา ซึ่งอาจนำไปสู่ความเสี่ยงที่ผู้ป่วยหนักอาจเข้าใจผิดว่าตนเองมีสุขภาพดี
ผู้เชี่ยวชาญที่ The Guardian ติดต่อได้ชี้ให้เห็นว่า การค้นหาบางคำถาม เช่น ‘ช่วงปกติของการตรวจเลือดตับคืออะไร’ ได้ผลลัพธ์ที่เป็นอันตราย Google จึงได้ปิดใช้งานการค้นหาเฉพาะดังกล่าว นอกจากนี้ รายงานยังเน้นย้ำถึงข้อผิดพลาดร้ายแรงเกี่ยวกับมะเร็งตับอ่อน โดย AI แนะนำให้ผู้ป่วยหลีกเลี่ยงอาหารที่มีไขมันสูง ซึ่งขัดแย้งกับคำแนะนำทางการแพทย์มาตรฐานที่ให้ผู้ป่วยรักษาน้ำหนัก และอาจเป็นอันตรายต่อสุขภาพผู้ป่วย
แม้จะมีการค้นพบเหล่านี้ Google กลับปิดใช้งานเฉพาะสรุปสำหรับคำถามเกี่ยวกับการตรวจตับเท่านั้น โดยยังคงปล่อยให้คำตอบอื่น ๆ ที่อาจเป็นอันตรายยังคงเข้าถึงได้ การสอบสวนยังเผยให้เห็นว่า การค้นหาค่าปกติของการตรวจตับสร้างตารางข้อมูลดิบที่ขาดบริบทสำคัญ และ AI ล้มเหลวในการปรับตัวเลขเหล่านี้ให้เข้ากับข้อมูลประชากรของผู้ป่วย เช่น อายุ เพศ และเชื้อชาติ ผู้เชี่ยวชาญเตือนว่า เนื่องจากคำจำกัดความของ ‘ปกติ’ ของแบบจำลอง AI มักจะแตกต่างจากมาตรฐานทางการแพทย์จริง ผู้ป่วยที่มีภาวะตับร้ายแรงอาจเชื่อผิด ๆ ว่าตนเองมีสุขภาพดีและละเลยการดูแลติดตามผลที่จำเป็น
🏷️ หมวดหมู่: AI, Biz & IT, Google, AI hallucination, ai overviews, generative ai, google, Health, machine learning, misinformation, search engines, the guardian
🔗 อ่านบทความฉบับเต็ม: Arstechnica
