जर्मन फैसले में कहा गया कि Google, AI Overviews की गलतियों के लिए जिम्मेदार है

 (the-decoder.com)
8 पॉइंट द्वारा GN⁺ 2 일 전 | 3 टिप्पणियां | WhatsApp पर शेयर करें
  • AI Overviews को search result list नहीं, बल्कि Google द्वारा अपनी संरचना और वाक्यों में तैयार किए गए content के रूप में वर्गीकृत किया गया, इसलिए झूठे दावों के लिए Google की प्रत्यक्ष जिम्मेदारी मानी गई
  • म्यूनिख की क्षेत्रीय अदालत ने पाया कि AI summary ने दो प्रकाशकों को fraud, subscription trap और संदिग्ध व्यावसायिक प्रथाओं से गलत तरीके से जोड़ा, जबकि linked sources में कहीं भी ऐसा संबंध नहीं था
  • पारंपरिक search engine और autocomplete पर लागू सीमित दायित्व का सिद्धांत बाहरी websites तक पहुंचाने वाली functionality के लिए बनाया गया था, इसलिए AI summaries पर लागू नहीं होता
  • Google की यह दलील स्वीकार नहीं की गई कि users खुद source जांच सकते हैं; स्वतंत्र रूप से समझी जा सकने वाली AI summary केवल आगे खोज की संभावना भर से जिम्मेदारी से मुक्त नहीं होती
  • Gemini 3 आधारित Google AI Overviews की 91% accuracy दिखाने वाले analysis के बावजूद, Google के scale पर हर घंटे लाखों गलत जवाब बन सकते हैं, जिससे समान AI services के लिए भी कानूनी जोखिम पैदा हो सकता है

जर्मन अदालत का मुख्य निष्कर्ष

  • जर्मनी की म्यूनिख क्षेत्रीय अदालत ने फैसला दिया कि AI-generated search summaries की सामग्री के लिए Google सीधे तौर पर जिम्मेदार है
  • अंतरिम injunction Google को AI-generated search summaries के जरिए म्यूनिख स्थित दो प्रकाशकों के बारे में झूठे दावे फैलाने से रोकता है
  • अदालत ने “AI overview” को साधारण search result list नहीं, बल्कि Google की अपनी content के रूप में वर्गीकृत किया
  • Google की AI summary ने कुछ search terms पर इन दो प्रकाशकों को fraud, subscription trap और संदिग्ध व्यावसायिक प्रथाओं से गलत तरीके से जोड़ा
  • अदालत ने माना कि AI ने वास्तव में संदिग्ध दूसरी कंपनियों की जानकारी को वादियों के साथ गड़बड़ा दिया, और linked sources में ऐसा कोई संबंध नहीं था

AI Overview search result नहीं है

  • AI Overviews पारंपरिक search results की तरह काम नहीं करते, बल्कि results को अपने वाक्यों और अपनी संरचना में दोबारा लिखकर उनका मूल्यांकन करते हैं
  • विवादित मामले में AI summary की शुरुआत ऐसे निर्णायक वाक्य से हुई: “हाँ, [कंपनी] संदिग्ध व्यावसायिक प्रथाओं के लिए जानी जाती है”
  • AI summary ने summary, fraud के संभावित संकेत और users के लिए tips को अपनी संरचना में व्यवस्थित किया
  • अदालत ने माना कि AI summary ने ऐसे दावे किए जो search results में भी मौजूद नहीं थे
  • linked sources में कहीं भी वादियों और उन संदिग्ध कंपनियों के बीच संबंध नहीं बनाया गया था जिनका AI ने उल्लेख किया, और अदालत ने इसे प्रतिवादी का अपना कथन माना
  • क्योंकि Google ने AI बनाया और users को उपलब्ध कराया, इसलिए AI को किस तरह उपलब्ध कराया जाता है और उसका algorithm कैसे काम करता है, उस पर प्रभाव रखने वाला पक्ष भी Google ही माना गया

मौजूदा search engine दायित्व सिद्धांत लागू नहीं होता

  • जर्मन संघीय सर्वोच्च न्यायालय की पुरानी मिसालें पारंपरिक search engine और autocomplete के लिए सीमित दायित्व को मान्यता देती रही हैं
  • उन मिसालों का तर्क यह था कि search engine operator केवल third-party content तक पहुंचने में मदद करता है, इसलिए उसकी जिम्मेदारी केवल अप्रत्यक्ष उल्लंघनकर्ता की होती है
  • म्यूनिख अदालत ने माना कि यह तर्क AI Overviews पर लागू नहीं होता
  • सामान्य search engine बाहरी websites की ओर इशारा करता है, लेकिन AI Overviews कई third-party sites की content का मूल्यांकन और संयोजन करके स्वतंत्र और नए सारगर्भित कथन बनाते हैं
  • अदालत के अनुसार AI के कथनों की जांच केवल Google ही कर सकता है, और कम से कम वह आधार बनी third-party websites और अपने कथनों की तुलना कर सकता है
  • AI Overview इंटरनेट उपयोग के लिए बिल्कुल अनिवार्य functionality नहीं है, क्योंकि पारंपरिक search results से भी users जानकारी व्यवस्थित कर सकते हैं

“Users खुद जांच सकते हैं” वाली दलील की सीमा

  • सुनवाई में Google ने कहा कि users linked sources को खुद देखकर verify कर सकते हैं कि AI summary सही है या नहीं
  • Google ने यह भी तर्क दिया कि आम तौर पर users जानते हैं कि AI-generated जानकारी पर आँख बंद करके भरोसा नहीं करना चाहिए
  • अदालत ने माना कि आगे जांच करके किसी कथन का खंडन किया जा सकता है, यह संभावना सामान्य रूप से उस कथन की जिम्मेदारी से छूट नहीं देती
  • विवादित AI Overview अपने आप में समझने योग्य था, उसमें स्वतंत्र रूप से समझे जा सकने वाले पूर्ण कथन थे, और उसमें किसी वैकल्पिक व्याख्या या अविश्वसनीय content का उल्लेख नहीं था
  • यह अध्ययन कि AI Overviews में users सीधे source link पर केवल 1% मामलों में click करते हैं अदालत की दलील को समर्थन देता है
  • अदालत ने media law से समानता बताते हुए कहा कि जैसे पाठक पूरा article न भी पढ़े, तब भी स्वतंत्र रूप से समझे जा सकने वाले teaser के लिए publisher जिम्मेदार होता है
  • अदालत ने कहा कि अगर Google की दलील के अनुसार AI Overview को सामान्य रूप से अविश्वसनीय माना जाए, तो इस functionality का लाभ भी काफी घट जाएगा

सुरक्षा का खालीपन और Digital Services Act का मुद्दा

  • अगर Google केवल स्पष्ट उल्लंघनों के लिए जिम्मेदार हो, तो AI द्वारा झूठे दावे बनाए जाने पर पीड़ितों के पास वास्तविक कानूनी उपचार नहीं बचेगा
  • जिन third-party websites को source के रूप में इस्तेमाल किया गया, उन्होंने विवादित कथन खुद कहे ही नहीं थे, इसलिए पीड़ित उनके खिलाफ मुकदमा नहीं कर सकते
  • अगर मौजूदा नियमों के तहत Google के खिलाफ भी प्रभावी मुकदमा न हो सके, तो सुरक्षा का खालीपन पैदा होता है
  • Google, Digital Services Act के hosting provider protection का दावा नहीं कर सका, और search engine की standard notice-and-takedown प्रक्रिया पर भी निर्भर नहीं रह सका

AI-generated राय और अभिव्यक्ति की स्वतंत्रता

  • अदालत ने कहा कि AI की राय किसी व्यक्ति के बने हुए विश्वास की अभिव्यक्ति नहीं, बल्कि algorithm का परिणाम है
  • AI-based research उपलब्ध कराना मुख्यतः Google की व्यावसायिक गतिविधि की अभिव्यक्ति माना गया
  • स्वतंत्र रूप से राय और विश्वास व्यक्त करने के हित को द्वितीयक स्तर का माना गया
  • वादियों के व्यक्तित्व अधिकारों और Google के हितों की तुलना में, विवादित कथन झूठे तथ्यों पर आधारित होने के कारण Google का हित पीछे रह गया
  • AI ने वादियों को असंबंधित कंपनियों से जोड़ा, जबकि शपथ-पत्र के अनुसार वादियों का उन कंपनियों से कोई संबंध नहीं था

फैसले का नतीजा और लागत का बोझ

  • अदालत का फैसला अधिकांश दावों में वादियों के पक्ष में गया
  • fraud, संदिग्ध कंपनियों से संबंध, subscription trap, कभी न हुई phone calls और अनुपलब्धता से जुड़े दावों पर रोक लगाई गई
  • केवल दो मामूली अनुरोध खारिज किए गए
  • अदालत ने माना कि भले ही कुछ खास वाक्य अब नहीं दिख रहे हों, दोहराए गए उल्लंघन का जोखिम बना हुआ है
  • Google ने दंडात्मक शर्तों वाला cease-and-desist declaration जारी नहीं किया, और ऐसा कोई संकेत भी नहीं था कि algorithm वही कथन दोबारा बनाने से रुकेगा
  • Google कानूनी लागत का 80% वहन करेगा, जबकि वादी पक्ष प्रत्येक 10% वहन करेंगे
  • अदालत ने माना कि इस फैसले का अंतरराष्ट्रीय दायरा भी हो सकता है

91% accuracy से बचा हुआ सवाल

  • AI startup Oumi द्वारा New York Times के लिए किए गए analysis में मौजूदा Gemini 3 model आधारित Google AI Overviews ने 91% सही उत्तर दर दिखाई
  • अधिकांश लोगों के लिए यह स्तर रोजमर्रा के उपयोग हेतु पर्याप्त माना जा सकता है
  • लेकिन Google के scale पर 91% accuracy का मतलब हर घंटे लाखों गलत जवाब भी हो सकता है
  • अगर पर्याप्त संख्या में गलत जवाब कंपनियों या व्यक्तियों की प्रतिष्ठा को नुकसान पहुंचाते हैं, तो यह केवल Google ही नहीं बल्कि ChatGPT, Claude और Perplexity जैसी समान services के लिए भी गंभीर कानूनी समस्या बन सकता है
  • Oumi analysis के अनुसार Gemini 3 के 56% सही जवाब भी उन sources से समर्थित नहीं थे जिन्हें Google ने link किया था
  • users ऐसी स्थिति का सामना कर सकते हैं जहां वे AI द्वारा दिए गए जवाब का source trace नहीं कर पाते
  • म्यूनिख अदालत ने इसी मुद्दे को संबोधित किया कि जब AI linked sources में मौजूद न होने वाले अपने दावे बनाता है, तो operator को उसकी जिम्मेदारी उठानी चाहिए
  • यह तर्क अपील में कायम रहेगा या नहीं, यह अभी तय नहीं है, और Google ने फैसले पर कोई टिप्पणी नहीं की

संबंधित पढ़ाई

3 टिप्पणियां

 
GN⁺ 1 일 전
Lobste.rs की राय

  • सर्च इंजन का उपयोगकर्ता के सवाल से मेल खा सकने वाली वेबसाइटों की ओर इशारा करना, और उन साइटों को पढ़कर सारांश देना — ये दोनों अलग बातें हैं
    अगर उसने दूसरा रास्ता चुना है, तो उपयोगकर्ता के लिए जानकारी का स्रोत खुद Google बन जाता है, और फिर उससे जुड़ी ज़िम्मेदारी से बच पाना संभव नहीं होना चाहिए

    • अड़चन यह है कि Google कई सालों से search snippets के ज़रिए सारांश देता आया है
      लेख को देखकर ऐसा लगता है कि हर्जाने की ज़िम्मेदारी सिर्फ उन हिस्सों पर है जो सर्च परिणामों से नहीं लिए गए थे; यह थोड़ा अजीब लगता है, हालांकि हो सकता है मैं गलत समझ रहा हूँ

  • मुझे लगता है कि यह कानूनी तौर पर large language models को search से बाहर धकेलने का एक तरीका बन सकता है
    अगर large language models non-deterministic हैं और कंपनी को उनके कथनों की ज़िम्मेदारी लेनी है, तो यह माना जा सकता है कि ऐसे algorithms मानहानिकारक hallucinations को भरोसेमंद तरीके से रोक ही नहीं सकते
    यह भी अजीब लगा कि अदालत ने लगभग पूरी तरह वादियों के पक्ष में फैसला दिया, फिर भी कहा गया कि “Google कानूनी खर्च का 80% देगा और वादी 10%-10% देंगे।” शायद पहले खारिज किए गए दो “छोटे दावे” इसकी वजह हों

    • फैसला पढ़ने पर, मेरी गैर-विशेषज्ञ समझ के अनुसार, Google AI के जिन कुछ कथनों पर वादी ने आपत्ति की थी, उन्हें तथ्यात्मक कथन नहीं बल्कि राय माना गया, इसलिए उन्हें अभिव्यक्ति की स्वतंत्रता का संरक्षण मिला
      शायद इसी वजह से प्रतिवादी उन हिस्सों में दोषी नहीं माना गया और खर्च भी बांटा गया
    • मेरे हिसाब से यहाँ अहम बात determinism नहीं है
      language model आधारित प्रोग्राम आम तौर पर एक ही input पर deterministic बनाए जा सकते हैं, और अगर probabilistic decoding इस्तेमाल हो तो random seed को fix किया जा सकता है
      असली समस्या यह है कि language model आधारित प्रोग्राम किसी खास input पर सही output देंगे, यह साबित नहीं किया जा सकता

  • अभी यह विश्लेषण सामने आया कि Gemini 3 मॉडल इस्तेमाल करने वाला Google AI Overviews 91% accurate था, और इसे “ज़्यादातर रोज़मर्रा के उपयोग के लिए काफ़ी robust” कहा गया। लेकिन 10 में 1 बार झूठ बोलने वाला सर्च इंजन आखिर किस ब्रह्मांड में, किसके लिए, और खासकर ज़्यादातर लोगों के लिए काफ़ी माना जाएगा, यह मेरी समझ से बाहर है

  • आखिरकार यह एक सामान्य समझ वाला फैसला लगता है। अगर आप मानते हैं कि AI सवालों के जवाब देने का एक वैध तरीका है, तो उन जवाबों की ज़िम्मेदारी लेने के लिए भी तैयार रहना चाहिए
    अगर आपको पता है कि जवाब झूठा है और फिर भी आप उसे देते रहते हैं, तो उसके नतीजों के लिए ज़िम्मेदार होना चाहिए। लोग जानते हैं कि किसी भी random webpage पर भरोसा नहीं करना चाहिए, लेकिन Google जवाब अपने नाम से और वेबसाइटों के ऊपर चढ़ाकर पेश कर रहा है। कई बार वह उस webpage से सामग्री भी लेता है जिसमें सही जवाब होता है, फिर जानकारी को मिलाकर उसे गलत बना देता है
    यह कहना कि उपयोगकर्ता को दिखाया गया हर कंटेंट गलत हो सकता है, अनैतिक है। या तो सही जानकारी दिखाइए, या बिल्कुल मत दिखाइए; कूड़ा और झूठी जानकारी को सही की तरह दिखाकर बाद में disclaimer लगाकर यह नहीं कहा जा सकता कि उस पर भरोसा न करें
    low-quality generation engine के ज़रिए जानकारी देने वाली कंपनियों को यह मानना चाहिए कि उपयोगकर्ता स्वाभाविक रूप से उनके automated जवाबों की accuracy की अपेक्षा करेंगे। अगर वे सही जानकारी को लगातार दोहराने जैसी बुनियादी शर्त भी पूरी नहीं कर सकते, तो उन्हें ऐसा दिखावा नहीं करना चाहिए कि वे कर सकते हैं
    ऐसे कंटेंट और open source लूटने वाले प्रोग्राम इस्तेमाल करने वाली कंपनियों और व्यक्तियों को, गलत जानकारी के नतीजों से लेकर OSS code चोरी से होने वाले copyright infringement तक, पूरे output की ज़िम्मेदारी लेनी चाहिए

  • यहाँ अहम बात यह है कि जर्मनी में case law नहीं है। इसलिए इस फैसले का संकेतात्मक असर तो है, लेकिन दूसरी अदालतें अलग तरह से फैसला दे सकती हैं
    फिर भी यह फैसला अच्छी तरह दिखाता है कि मौजूदा कानून AI के इस पहलू, खासकर ज़िम्मेदारी के सवाल, को पर्याप्त रूप से संभाल सकता है। सिद्धांत यही है कि जो बनाया है उसकी ज़िम्मेदारी लो, और पढ़ने पर यह काफ़ी तर्कसंगत लगता है

    • मुझे नहीं पता था कि civil law व्यवस्था में precedent को इस तरह देखा जाता है
      रुचि रखने वालों के लिए अच्छा विवरण: https://max-eup2012.mpipriv.de/index.php/Precedent,_Rule_of

  • हमारे देश के एक संगीतकार के साथ ऐसा हुआ था कि Google AI Overview ने उनके बारे में झूठा दावा किया कि वह बाल यौन अपराधी हैं, जिसके बाद एक venue ने उनका concert रद्द कर दिया
    मेरे हिसाब से उनके पास Google के खिलाफ मानहानि और आय के नुकसान को लेकर मुकदमा करने का कानूनी आधार होना चाहिए था, हालांकि उन्होंने वास्तव में मुकदमा नहीं किया

  • यह न्यायसंगत लगता है। अगर वह सामग्री Google की है, तो गलती Google की है; और अगर वह किसी और की है, तो वह copyright infringement हो सकता है

    • उस तर्क से तो search engine की पूरी अवधारणा ही copyright infringement हो जाएगी

  • यह निश्चित रूप से काफ़ी तर्कसंगत और सामान्य लगता है। खासकर यह हिस्सा दिलचस्प है
    अदालत ने एक protection gap की ओर भी इशारा किया। अगर Google सिर्फ स्पष्ट उल्लंघनों के लिए ही ज़िम्मेदार हो, तो AI द्वारा झूठा दावा किए जाने पर पीड़ित के पास कोई वास्तविक कानूनी उपाय नहीं बचेगा। स्रोत के रूप में इस्तेमाल की गई third-party websites ने वह विवादित कथन कहा ही नहीं था, इसलिए पीड़ित स्रोत पर मुकदमा नहीं कर सकता, और मौजूदा नियमों के तहत Google पर भी प्रभावी ढंग से मुकदमा नहीं हो पाएगा
    यह नज़रिया काफ़ी अच्छा है। शायद यहाँ पूछना ठीक न हो, लेकिन मैं जानना चाहता हूँ कि क्या अमेरिकी अदालतों में भी ऐसी ही बातों पर विचार होता है। मैं अमेरिका में रहता हूँ इसलिए अमेरिका के बारे में पूछ रहा हूँ, कोई और मतलब नहीं है। मेरी कानूनी जानकारी ज़्यादातर TV और courtroom फिल्मों से आई है, और उनमें मैंने ऐसा विचार होते नहीं देखा

  • search के बाहर large language model defamation का क्या होगा? अगर claude.ai को मेरे बारे में मानहानिकारक बात कहने के लिए उकसाया जा सकता है, तो क्या मैं मुकदमा कर सकता हूँ?

    • अगर बात chat interface की है, तो शायद नहीं। मानहानि का दावा सफल होने के लिए वास्तविक नुकसान दिखाना पड़ता है
      व्यवहारिक रूप से इसका मतलब है कि बात का व्यापक उपभोग के लिए प्रकाशन होना ज़रूरी है

  • क्या हर सारांश के नीचे disclaimer लगा देने से इस कानून से बचा जा सकता है? लोग तो वैसे ही गुमराह होंगे, लेकिन अगर आपने कभी यह दावा ही नहीं किया कि जवाब सच है, तो क्या आप ज़िम्मेदार नहीं होंगे?

    • नहीं, सिर्फ यह कह देने से कि “मेरा सचमुच ऐसा मतलब नहीं था,” आप defamation को जादुई तरीके से खत्म नहीं कर सकते
      Google यहाँ खुद को एक मध्यस्थ की तरह पेश करने की कोशिश कर रहा था। search engine से जुड़े कानून वास्तव में ऐसी कुछ गुंजाइश देते हैं। लेकिन इस मामले में उसे सही तौर पर प्राथमिक स्रोत माना गया
      और मेरे हिसाब से यही सही है। AI कंपनियों को या तो यह कहना चाहिए कि उन्होंने सिर्फ मशीन को train किया है और output input से स्वतंत्र है, या फिर यह कि वे सिर्फ एक index हैं और दूसरी जगहों का संदर्भ दे रही हैं। copyright के मामलों में पहला रुख लेकर वे दोनों फायदे एक साथ नहीं ले सकतीं
    • Google ने ऐसी दलील दी भी थी, लेकिन अदालत ने माना कि झूठे तथ्यात्मक कथन प्रकाशित करने के बाद “lol मज़ाक था, source check करो, मुझ पर भरोसा मत करो” जोड़ देने से बात नहीं बनती
      और औपचारिक रूप से देखें तो, सबूत के तौर पर पेश किए गए कई AI सारांश Google की ओर से किए गए नए तथ्यात्मक कथन माने गए। राय वाले कथनों को व्यापक कानूनी संरक्षण मिलता है, लेकिन तथ्यात्मक कथनों को नहीं। ऊपर से कुछ झूठे तथ्यात्मक कथनों को जुड़े हुए स्रोतों का समर्थन भी नहीं था
    • सिर्फ disclaimer के दम पर slander और defamation से बचा जा सकता है या नहीं, मुझे नहीं पता। अगर ऐसा संभव हो, तो फिर ऐसी हरकतें अभिव्यक्ति की स्वतंत्रता के नाम पर अभियोजन से बाहर हो जानी चाहिए थीं
      कुल मिलाकर बात थोड़ी उलझी हुई है, लेकिन इस मामले में लिया गया रुख सकारात्मक लगता है
    • अगर ऐसी परिभाषा मान ली जाए, तो defamation law का कोई मतलब ही नहीं बचेगा। फिर कोई भी कुछ भी कहकर नीचे छोटे अक्षरों में लिख सकता है, “यह सच न भी हो सकता है”
      मुझे धुंधला-सा याद है कि इंसानों के लिए इस तरह की चाल पहले से मौजूद मिसालों में नहीं चलती, तो फिर कंपनियों के लिए क्यों चलनी चाहिए, समझ नहीं आता
 
brainer 2 일 전

गलत जवाबों से भरा पड़ा है haha
 
GN⁺ 2 일 전
Hacker News टिप्पणियाँ

  • अगर मैंने सही समझा है, तो यह फैसला मुझे पसंद है। Google ने Search नाम का एक प्रोडक्ट बनाया, उस प्रोडक्ट के लिए नियम स्थापित हुए, और उसने उस प्रोडक्ट में एकाधिकार बनाए रखा
    अब Google उसी प्रोडक्ट को एक नए प्रोडक्ट में बदल रहा है, लेकिन उसे वही नाम दे रहा है। क्योंकि वह अपना एकाधिकार बनाए रखना चाहता है
    अवैध जो माना गया है, वह यही हिस्सा है। Gemini खुद अवैध नहीं है; बल्कि बात यह लगती है कि Gemini का सबसे खराब वर्ज़न Search होने का दिखावा करते हुए Search पर स्थापित नियमों को तोड़ रहा है, और अवैध वह है। हालांकि मैं वकील नहीं हूँ

    • इसका एकाधिकार से कोई लेना-देना नहीं है। Google सर्च में मानहानि की जिम्मेदारी से इसलिए बच सकता था क्योंकि पेज शीर्षक और स्निपेट लिंक किए गए परिणाम पेज के सीधे उद्धरण थे। जबकि AI Overview में Google के नियंत्रण वाला बड़ा भाषा मॉडल खुद वाक्य लिखता है
    • यह लेख ऐसा नहीं कहता। अगर तुम्हें लगता है कि लेख ने फैसले को गलत ढंग से पेश किया है, तो वही बिंदु बताना चाहिए। तुम कह रहे हो कि फैसला पसंद है, और फिर फैसले से असंबंधित अपनी पसंद की बातें गिना रहे हो
    • मुझे यह तर्क बिल्कुल समझ नहीं आता, और यह भी नहीं कि आखिर कौन-सा कानून टूटा है। ठीक-ठीक किस कानून के उल्लंघन की बात हो रही है?
      लेख भी शायद वह बात नहीं कह रहा। यह अमेरिका के Section 230 जैसी बहस लगती है। Section 230 अमेरिकी कानून है जो Facebook, Google जैसे प्लेटफ़ॉर्म को इस आधार पर प्रकाशक नहीं मानता कि वे सिर्फ जानकारी पहुँचाते हैं, जबकि यहाँ बात यह है कि जर्मनी AI परिणामों को Google द्वारा लिखी गई सामग्री मान रहा है
    • अदालत ने माना कि AI-जनित सामग्री का एक लेखक, संपादक और प्रकाशक है, और वह इकाई Google है। साथ ही उसने माना कि Google को जिम्मेदार ठहराया जा सकता है। इससे surprised Pikachu meme याद आ गया
    • फैसले में ऐसा कुछ नहीं है

  • अच्छा है। AGI की असली निशानी तब होगी जब कंपनी जिम्मेदारी स्वीकार करे और नियमों-शर्तों की गहराई में “सिर्फ मनोरंजन के लिए” जैसा कोई वाक्य छिपाकर न रखे। जैसे कर्मचारियों को जिम्मेदार ठहराया जाता है
    self-driving का भी यही हाल है। जब तक कार जिम्मेदारी नहीं लेती और उपयोगकर्ता को सिर्फ यात्री नहीं माना जाता, तब तक वह self-driving car नहीं है
    हालांकि लगता है कि जर्मनी जल्द ही Google AI परिणाम खो देगा

    • मेरा मानना है कि self-driving car और question-answering system बनाने वाली कंपनियों पर उनकी गलतियों के लिए कानूनी जिम्मेदारी डालना पूरी तरह उचित रुख है
      लेकिन अगर यह रुख अपनाते हैं, तो यह भी स्वीकार करना होगा कि कंपनियाँ उस देश में अपने प्रोडक्ट और सेवाएँ न दें। AI सिस्टम शायद 10~20 साल बाद इतने सटीक हो जाएँ कि मुकदमेबाज़ी की लागत उठा सकें, लेकिन तब तक ऐसे देश पूरी तरह सत्यापित सिस्टम आने से पहले इन तक पहुँच नहीं पाएँगे
    • अगर जर्मनी Google AI परिणाम खो देता है, तो मेरी नज़र में यह जर्मनी के लिए फायदा है। AI परिणाम चाहिए हों तो बस AI इस्तेमाल कर लो
    • Mercedes-Benz सीमित परिस्थितियों में ऐसा करती है। Waymo आम तौर पर ऐसा करती है। चीन में Level 4 और 5 पर जोखिम निर्माता की ओर चला जाता है। यही सही तरीका है
    • इसे नियमों-शर्तों की गहराई में नहीं छिपाया गया, बल्कि बॉक्स के ठीक नीचे यह लिखा है:

      AI can make mistakes, so double-check responses

    • वह AGI क्यों कहलाए? दायरा सीमित कर दो तो AI को ज्यादा बुद्धिमान बनाने की तुलना में जिम्मेदारी लेने वाले क्षेत्र में पहुँचना बहुत आसान है
      self-driving car में भी इतना काफी है कि कुछ खास परिस्थितियों में कंपनी जिम्मेदारी ले, और बाकी स्थितियों में कार चलाने से इनकार कर दे; इसके लिए असाधारण रूप से श्रेष्ठ होना जरूरी नहीं है

  • विडंबना यह है कि यह लेख खुद गलत दावा कर रहा है कि Google पर किस बात की जिम्मेदारी डाली गई, और लगभग कोई उसकी fact-checking नहीं कर रहा
    जिस कानून का उल्लंघन हुआ, वह व्यक्तियों और कंपनियों की प्रतिष्ठा को तथ्य-विरुद्ध बयानों से बचाने वाला कानून है। मूल रूप से, अगर कोई दावा मानहानिकारक है, तो उसके साथ “यह गलत भी हो सकता है, खुद जाँच लें” जोड़कर “X, Y है” नहीं कहा जा सकता
    यह फैसला काफ़ी अच्छा है। उम्मीद है Google आगे से इस तरह के तथ्यात्मक निर्णायक वाक्य नहीं बनाएगा, बल्कि “X के अनुसार…” जैसे अधिक उचित शब्दों का इस्तेमाल करेगा और साथ में यह सीधी सूचना देगा कि वह इसकी पुष्टि नहीं कर सका। और बेहतर यह होगा कि वह अदालत के दस्तावेज़ ढूँढकर देखे कि वास्तव में कोई कानूनी निर्णय है भी या नहीं, और उपयोगकर्ता को बताए

    • तुम्हारी लिखी बात और लेख में ठीक किस हिस्से में अंतर है?
    • क्या जर्मनी कुछ हद तक case law का पालन करता है? अगर यह मिसाल बन सकता है, तो यह महत्वपूर्ण है। क्योंकि कोई भी ऐसे AI Overview उत्तर बना सकता है, और वे लगभग 10 में 9 बार गलत होते हैं
    • Google बहुत-सी चीज़ें बिगाड़ रहा है, इसलिए भले ही लेख सटीक न हो, मूल समस्या बनी रहती है। इस दुष्ट एकाधिकार को पूरी तरह तोड़ने का समय आ गया है
      हालांकि मुझे यह भी यकीन नहीं कि तुम सही हो। लेख ने ठीक कौन-सा झूठा दावा किया है?

  • लोग शिकायत करेंगे, लेकिन अंततः यूरोप ऐसे कानूनी मामलों में फिर भी आगे रहेगा। यह परेशान करने वाला है और कभी-कभी innovation speed को धीमा करता है, लेकिन अमेरिकी कंपनियाँ बिना रोक-टोक जो भी पैसा कमाए, वही कर रही हैं

    • innovation speed धीमी होने की बात से अधिक, इंसान, समाज और common good की पारंपरिक समझ की ओर लौटना आवश्यक है
    • सच कहूँ तो इस मामले में यूरोप द्वारा तकनीक को धीरे अपनाना और अपेक्षाकृत कम निवेश होना एक वरदान है
      अभी हासिल होने वाली चीज़ सिर्फ अस्थिरता है। अमेरिका आर्थिक और सामाजिक झटके झेलकर जो बचेगा, बस वही स्वीकार कर लेना चाहिए। जल्दी करने की कोई वजह नहीं है। उपयोगी हिस्सों के इर्द-गिर्द लगभग कोई moat नहीं है। open model या छोटे खिलाड़ियों की तुलना में frontier operation की लागत और जोखिम को सही ठहराने लायक अंतर भी बहुत बड़ा नहीं है। अंततः इस AI कारोबार का अधिकांश हिस्सा ज़्यादातर उपयोग मामलों में local model पर जाकर टिकने की संभावना रखता है
      अमेरिका पहला खरबपति भी बना सकता है, लेकिन वास्तविकता में वह innovation की वजह से नहीं, बल्कि भ्रष्टाचार, शोषण और चरम धन-असमानता की वजह से होगा। अगर AI अर्थव्यवस्था “अनुमान” के मुताबिक नहीं चली, तो उबरने का कोई रास्ता भी नहीं होगा। वह पैसा बस गर्मी और एकबार इस्तेमाल होने वाले hardware कचरे में बदल गया होगा। “तकनीकी बढ़त” के लिए पेंशन और सामाजिक एकजुटता को जोखिम में डालना उचित नहीं है
    • इस तरह के कानून अमीर और ताकतवर लोगों की मदद करने और उनसे नीचे के लोगों को नुकसान पहुँचाने के लिए होते हैं। यह EU के अमेरिका से बेहतर होने का उदाहरण बिल्कुल नहीं है
      या क्या तुम्हें सच में लगता है कि जर्मनी में negative review hosting का लगभग अवैध होना अच्छी बात है?

  • इसके अलावा और कौन-सा निष्कर्ष समझ में आएगा? प्लेटफ़ॉर्म खतरनाक और टूटी-फूटी products देने में इस्तेमाल होते हुए भी उससे बच निकलने के आदी हो गए हैं। किसी न किसी सीमा का होना ज़रूरी है।
    अगला मामला Amazon पर बिक रही AI-जनित foraging guide books का होना चाहिए:
    https://www.theguardian.com/technology/2023/sep/01/mushroom-...
    बचपन में किताबों की दुकान से कोई भी foraging book खरीदो, तो कम-से-कम उसकी एक न्यूनतम quality होती थी। क्या यह इतना मुश्किल है? क्या अब बेहिसाब मुनाफाखोरी पर कोई सज़ा नहीं होती?

    • disclaimer दिया गया था और user ने उसे स्वीकार भी किया था
      स्रोत: https://www.youtube.com/watch?v=P-QaEB5eXSU
      3:00 बिंदु
    • अगर वैज्ञानिक और पत्रकार गलत बातें कहें या तथ्यों को तोड़-मरोड़ कर पेश करें, तो क्या उन्हें भी ज़िम्मेदार ठहराया जाना चाहिए?

  • users को खुद फैसला करने देने के बजाय उनके लिए जवाब चुनकर देना बहुत बड़ी शक्ति है, और अदालत ने सही देखा कि उस शक्ति के साथ समाज के बाकी लोगों को होने वाले नुकसान को कम-से-कम करने की ज़िम्मेदारी भी आती है

    • Google search page के AI summary असली Gemini results की तुलना में हैरान कर देने वाली हद तक बेवकूफ़ाना लगते हैं। Google Search AI ऐसे लगता है जैसे search results को बस हल्का-सा paraphrase करने वाला सबसे हल्का model हो। यह random Reddit comments उठा लेता है, context हटा देता है, और उन्हें पूर्ण तथ्य की तरह पेश करता है
    • जाहिर है, वे खुद भी यह जानते हैं। असली उद्देश्य लोगों की धारणा को फिर से लिखना है

  • यह बात समझ में आती है
    अगर Google Search सिर्फ़ गलत जानकारी वाले third-party websites को quote कर रहा हो, तो Google ज़िम्मेदार नहीं है। ज़िम्मेदारी third party पर जाती है। search engine के रूप में Google को यही विशेषाधिकार मिला हुआ है
    लेकिन जब Google search engine नहीं बल्कि answer machine की तरह काम करता है, तब वह विशेषाधिकार अब लागू नहीं होता। ज़िम्मेदारी डालने के लिए कोई third party बचती ही नहीं

    • यहाँ जो हुआ, वह यह नहीं था

      According to the court, the Al mixed up information about other, genuinely sketchy companies with the plaintiffs and drew connections that didn't appear in any of the linked sources.
      यानी, अगर झूठा दावा स्रोतों के भीतर होता, तो उसे संरक्षित अभिव्यक्ति माना जाता
      “answer machine” और “search engine” के बीच कोई विशेष फ़र्क नहीं है। वह हिस्सा गढ़ी हुई व्याख्या है

  • फैसला सामान्य समझ के हिसाब से सही लगता है। AI, Search नहीं है। बड़े language models search results नहीं देते जिन्हें user खुद समझे, बल्कि वे कथन गढ़ते हैं। यह library card catalog में किसी विषय को ढूँढने और software द्वारा खुद अपना जवाब बता देने के बीच का फ़र्क है
    जब ये चीज़ें पहली बार आई थीं और पूरे आत्मविश्वास से झूठ बोलती थीं, तभी लगा था कि ऐसे मुक़दमे टाले नहीं जा सकेंगे। अच्छा है कि Germany ने सही फ़ैसला किया

  • फैसले का link यहाँ है। German में होना स्वाभाविक है, और लगता है कि मूल page पर बहुत ज़्यादा traffic आ गया है: https://the-decoder.de/wp-content/uploads/2026/06/26_O_869_2...

  • In this case, Google's AI had wrongly linked two publishers to scams and shady business practices.
    तो फिर EU में AI Overview का खेल ख़त्म समझो

    • ऐसा शायद उन दूसरे देशों में भी होगा जहाँ defamation law है, लेकिन कहीं यह संकेत नहीं दिखता कि कोई penalty लगी हो। Google पर पूरे legal costs भी नहीं डाले गए। अगर इसका business model है, तो शायद वह इसे झेल सकता है
    • यह इस पर निर्भर करता है कि Google को फायदा जोखिम उठाने लायक बड़ा लगता है या नहीं
      वह फायदा क्या है, यह मुझे भी नहीं पता, लेकिन कोई वजह तो होगी कि उन्होंने इसे चालू रखा है, है न?