Google makes fixes to AI generated search summaries after outlandish answer went viral.
Google ने गुरुवार को स्वीकार किया कि उसके AI ओवरव्यू टूल, जो खोज प्रश्नों का उत्तर देने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करता है, में सुधार की आवश्यकता है।
इंटरनेट खोज की दिग्गज कंपनी ने कहा कि उसने दो सप्ताह पहले नई सुविधा जारी करने से पहले इसका गहन परीक्षण किया था, लेकिन Google ने स्वीकार किया कि प्रौद्योगिकी “कुछ अजीब और खराब सारांश” उत्पन्न करती है। उदाहरणों में गुर्दे की पथरी को तेजी से बाहर निकालने के लिए पिज्जा पर पनीर चिपकाने और मूत्र पीने के सुझाव शामिल हैं।
कई उदाहरण अप्रासंगिक थे, लेकिन अन्य खोज परिणाम संभावित रूप से खतरनाक थे। जब एसोसिएटेड प्रेस ने पिछले सप्ताह पूछा कि कौन से जंगली मशरूम खाने योग्य हैं, तो Google ने एक लंबा, AI-जनित सारांश प्रदान किया जो ज्यादातर तकनीकी रूप से सही था। लेकिन पर्ड्यू विश्वविद्यालय में माइकोलॉजी और वनस्पति विज्ञान की प्रोफेसर मैरी कैथरीन ऐम, जिन्होंने एपी की पूछताछ पर Google की प्रतिक्रिया की समीक्षा की, ने कहा कि इसमें “बहुत सी जानकारी गायब है जो संभावित रूप से आपको बीमार कर सकती है या यहां तक कि आपको मार भी सकती है।” उदाहरण के लिए, वह कहती हैं, बोविस्टे नामक मशरूम के बारे में जानकारी “कमोबेश सही” है, लेकिन Google का सारांश सख्त सफेद गूदे वाले मशरूम की तलाश पर जोर देता है, जो कई संभावित घातक बोविस्टे नकलचियों के पास भी होता है।
एक अन्य व्यापक उदाहरण में, जब एक एआई शोधकर्ता ने Google से पूछा कि कितने मुसलमानों ने अमेरिकी राष्ट्रपति के रूप में कार्य किया है, तो Google ने लंबे समय से खारिज साजिश सिद्धांत के साथ आत्मविश्वास से जवाब दिया: “संयुक्त राज्य अमेरिका में बराक हुसैन ओबामा नाम का एक मुस्लिम राष्ट्रपति था।”
यह वापसी तकनीकी कंपनियों द्वारा खुद को गर्म क्षेत्रों में अग्रणी के रूप में स्थापित करने के लिए एआई उत्पादों को बाजार में लाने की होड़ का नवीनतम उदाहरण है।
Google खोज प्रमुख लिज़ रीड (Reid) ने गुरुवार को एक कंपनी ब्लॉग पोस्ट में कहा, क्योंकि Google का AI सारांश कभी-कभी प्रश्नों के अनुपयोगी उत्तर प्रदान करता है, इसलिए कंपनी सुधार जारी रखते हुए अपने AI सारांश को कम कर रही है।
रीड (Reid) ने कहा, “हमें कुछ एआई(AI) सारांश मिले जो अजीब, गलत या अनुपयोगी थे, और जबकि वे ऐसे प्रश्न थे जिन्हें लोग आम तौर पर बहुत अधिक नहीं पूछते हैं, उन्होंने कुछ विशिष्ट क्षेत्रों पर प्रकाश डाला जहां हमें सुधार करने की आवश्यकता है।” निरर्थक प्रश्न जैसे “मुझे कितने पत्थर खाने चाहिए?” रीड ने कहा, एआई सारांश से संदिग्ध सामग्री उत्पन्न हुई। उन्होंने कहा कि एआई सारांश सुविधा चर्चा मंचों से व्यंग्यात्मक सामग्री को अंकित मूल्य पर लेती है और Google खोजों के जवाब में गलत जानकारी प्रदर्शित करने के लिए वेब पेजों पर भाषा की गलत व्याख्या कर सकती है।
“कुछ मामलों में, हमने पाया कि एआई सारांश वेब पेजों पर भाषा की गलत व्याख्या करते हैं और गलत जानकारी प्रदर्शित करते हैं। रीड ने लिखा, “हमने एल्गोरिदम सुधारों के माध्यम से इन मुद्दों को तुरंत संबोधित किया और हमारे दिशानिर्देशों को पूरा नहीं करने वाले उत्तरों को हटाने के लिए प्रक्रियाएं स्थापित कीं।”
अब, कंपनी उन प्रश्नों पर ट्रिगर प्रतिबंध जोड़कर अपने द्वारा उत्पन्न सारांश को कम कर रही है जहां हमें एआई सारांश कम उपयोगी लगे। Google ने यह भी कहा कि वह उन ब्रेकिंग न्यूज़ विषयों के लिए AI सारांश दिखाने से बचने की कोशिश कर रहा है जहां “समयबद्धता और तथ्यात्मकता महत्वपूर्ण हैं।”
कंपनी ने यह भी कहा कि उसने “उत्तरों में उपयोगकर्ता-जनित सामग्री के उपयोग को सीमित करने के लिए अपडेट किया है जिसमें भ्रामक सलाह हो सकती है।”