Smart Compose ของ Gmail เป็นหนึ่งในฟีเจอร์ของ AI ที่น่าสนใจของที่สุดในช่วงหลายปีที่ผ่านมาของ Google โดยคาดการณ์สิ่งที่ผู้ใช้จะเขียนลงในอีเมล และเสนอการเขียนให้จนจบประโยค แต่ก็เหมือนกับฟีเจอร์อื่นๆ ของ AI อีกจำนวนมากที่มีแนวโน้มจะเกิดความผิดพลาด เป็นเหตุผลที่ทำให้ Google บล็อกฟีเจอร์ที่แนะนำ คำนำหน้าที่เกี่ยวกับเพศ เช่น “him” และ “her” ในอีเมล ออกจาก Smart Compose เนื่องจาก Google กังวลว่า อาจจะมีการเดาเพศผิด
ข้อจำกัดนี้ถูกนำมาใช้หลังจากที่นักวิจัยในบริษัทค้นพบปัญหาเมื่อเดือนมกราคมที่ผ่านมา ซึ่งในตอนนั้นนักวิจัยกำลังพิมพ์ข้อความว่า “I am meeting an investor next week” ใน Gmail มีการเสนอคำถาม เพื่อติดตามผลต่อ “Do you want to meet him” ซึ่งเป็นการเสนอสรรพนามของเพศที่ผิด
Paul Lambert ผู้จัดการ Product ของ Gmail กล่าวกับ Reuters ว่าทีมงานพยายามแก้ไขปัญหานี้ด้วยวิธีการต่าง ๆ แต่ยังไม่มีความน่าเชื่อถือมากพอ ท้ายที่สุดแล้ว Paul Lambert กล่าวว่า ทางออกที่ง่ายที่สุด คือ การลบการตอบกลับประเภทนี้ทั้งหมด ซึ่งเป็นการเปลี่ยนแปลงที่มีผลกับ Google Smart Compose น้อยกว่า 1% ของการคาดการณ์ เนื่องจากเรื่องเพศเป็นเรื่องใหญ่จะต้องระมัดระวังไม่ให้เกิดความผิดพลาดในเรื่องแบบนี้
ข้อผิดพลาดเล็กนี้ ๆ เป็นตัวอย่างที่ทำให้เห็นว่า software ที่สร้างขึ้นด้วย machine learning สามารถสะท้อนถึงอคติทางสังคมได้ เช่นเดียวกับระบบ AI จำนวนมาก โดยฟีเจอร์ Smart Compose เรียนรู้จากการศึกษาข้อมูลที่ผ่านมารวมกับอีเมลเก่า ๆ เพื่อหา words และ คำที่ควรแนะนำ (ส่วนฟีเจอร์ Smart Reply ใช้วิธีการอย่างเดียวกันเพื่อแนะนำการตอบกลับอัตโนมัติ) และจากข้อมูลที่ผ่านมาฟีเจอร์ Smart Compose คาดการณ์ว่า investor มีแนวโน้มที่จะเป็นเพศชายมากกว่าผู้หญิง ดังนั้น จึงเป็นการคาดการณ์ที่ผิดพลาด
ที่มา : theverge
