FCC ने robocalls में AI-जनरेटेड आवाज़ों को अवैध घोषित किया

• AI आवाज़ों से इंसानों जैसी लगने वाली automated calls के फैलने पर, FCC ने इन्हें TCPA के तहत “artificial” calls माना और मौजूदा टेलीफोन उपभोक्ता संरक्षण नियमों के दायरे में शामिल किया
• यह Declaratory Ruling पुष्टि करता है कि AI से जनरेट की गई मानव आवाज़ का इस्तेमाल करने वाली calls पर भी Telephone Consumer Protection Act(TCPA) लागू होता है
• FCC का फैसला सर्वसम्मति से अपनाया गया और यह robocalls में AI-generated voices के इस्तेमाल को सीधे निशाना बनाता है
• News Release और Declaratory Ruling का मूल टेक्स्ट docx, pdf, txt formats में जारी किया गया है, जिससे निर्णय दस्तावेज़ तुरंत देखा जा सकता है
• deepfake audio और video links robocalls और scam texts में फर्क करना और मुश्किल बना देते हैं, जिससे AI voice regulation की व्यावहारिक जरूरत बढ़ती है

---

AI-जनरेटेड आवाज़ वाले robocalls पर TCPA का लागू होना

• FCC ने सर्वसम्मति से एक Declaratory Ruling अपनाया, जिसमें माना गया कि AI-generated voices से बनी calls Telephone Consumer Protection Act(TCPA) की “artificial” calls के अंतर्गत आती हैं
• लागू दायरा AI-generated voices से बनाई गई calls है
• यह फैसला robocalls में AI-generated voices के इस्तेमाल को सीधे निशाना बनाता है और पुष्टि करता है कि TCPA मानव आवाज़ बनाने वाली AI तकनीक पर भी लागू होता है

जारी किए गए FCC दस्तावेज़

• News Release मूल टेक्स्ट
  • docx
  • pdf
  • txt
• Declaratory Ruling में यह内容 शामिल है कि TCPA मानव आवाज़ जनरेट करने वाली AI तकनीक पर लागू होता है
  • docx
  • pdf
  • txt

deepfake से जुड़ी उपभोक्ता जानकारी

• Deep-Fake Audio and Video Links Make Robocalls and Scam Texts Harder to Spot बताता है कि deepfake audio और video links robocalls और scam texts की पहचान करना मुश्किल बना देते हैं

[GN⁺]

Hacker News प्रतिक्रियाएँ

• एक बार अनजान नंबर से कॉल आई, उठाया तो पत्नी की आवाज़ की रिकॉर्डिंग ने “Hello?” कहा
  उसके बाद से, जब तक कॉलर कौन है यह पता न हो, मैं फोन उठाते समय Hello पहले नहीं बोलता

  • मैं इससे एक कदम आगे बढ़कर, अटपटेपन और false positives कम करने के लिए, जिन लोगों को जानता हूँ उन्हें सभी को मोबाइल contacts में सेव रखता हूँ
    अगर कॉल नाम की जगह नंबर के रूप में दिखती है, तो मैं उसे उठाता ही नहीं; अगर spam न हो तो वे voicemail या text छोड़ देंगे
    और अगर दोनों में से कुछ भी न छोड़ें, तो बहुत संभावना है कि वह spam/धोखाधड़ी थी या शुरू से ही बहुत महत्वपूर्ण काम नहीं था; 10 साल से ज़्यादा समय से ऐसा कर रहा हूँ और अभी तक कोई समस्या नहीं हुई
  • जिन स्थितियों में मुझे कॉल उठानी ही पड़े, तब भी मैं कोई जानकारी नहीं देता
    अगर उठाता हूँ, तो 3–5 सेकंड तक चुप रहता हूँ ताकि अगर bot न हो तो सामने वाला इंसान पहले बोल सके
  • ऐसी कॉलें आ रही हैं जिनमें कोई लगभग 3 मिनट तक कुछ नहीं बोलता, फिर कोई Hello कहता है
    शक की हद तक सोचूँ तो लगता है कि शायद वे मेरी आवाज़ रिकॉर्ड करके AI impersonation में इस्तेमाल करना चाहते हैं
  • फोन etiquette तोड़ने के लिए माफ़ी, लेकिन मेरा भी यही सोचना है
    कॉल करने वाला पहले बोले, तभी पता चलता है कि वह सच में इंसान है या नहीं; और अगर automated system हो, तो मैं चुप ही रहता हूँ इस उम्मीद में कि उसे पता न चले कि मेरा नंबर कोई दूसरा automated system नहीं है

• FCC को ऐसा फैसला लेने की अनुमति देने वाला कानूनी सिद्धांत Chevron Deference कहलाता है, और यह महत्वपूर्ण लगता है कि इस समय उस पर हमला हो रहा है
  https://www.scotusblog.com/2024/01/supreme-court-likely-to-d...

  • यह थ्रेड Chevron Deference को काफ़ी गलत समझ रहा है
    इसे हटाने का मतलब यह नहीं कि एजेंसियाँ कुछ भी नहीं कर पाएँगी और Mad Max जैसी अराजक स्थिति हो जाएगी; administrative rulemaking कब अनुमत है, इसके मानदंड हमेशा मौजूद रहते हैं
    discretion की सीमा कितनी होगी, यह अलग मुद्दा है, लेकिन यह साफ़ करना कि AI-generated voice कानून के तहत “artificial” है, लगभग उतना ही कम नियम-निर्माण माँगता है जितना यह कहना कि “कंप्यूटर से किसी के सिर पर मारना” भी “assault” है
  • मैंने सिर्फ लिंक पढ़ा, लेकिन वह व्याख्या थोड़ी गलत लगती है
    Chevron सिद्धांत FCC जैसी एजेंसियों को ऐसे फैसले लेने की अनुमति नहीं देता, बल्कि अदालतों को उन फैसलों को पलटने से रोककर उनकी रक्षा करता है
    यानी भले ही न्यायाधीश निजी तौर पर एजेंसी की व्याख्या से असहमत हों, फिर भी उन्हें उसका सम्मान करना पड़ता है; लेकिन Chevron न हो तो ऐसे मामलों में वे उसे पलट सकते हैं
    इस मामले में AI-generated voice को कानून के लागू होने के संदर्भ में “artificial” मानना इतना स्पष्ट है कि व्यक्तिगत रूप से मुझे नहीं लगता कि यहाँ Chevron सिद्धांत लागू करने की भी ज़रूरत पड़ेगी
  • Chevron Deference के महत्व से सहमत हूँ, लेकिन इस फैसले में शायद ही कोई अदालत Chevron के दूसरे चरण तक जाएगी
    कानून “artificial या prerecorded voice” पर रोक लगाता है, और AI agents परिभाषा के अनुसार artificial हैं, इसलिए अलग से deference की ज़रूरत नहीं दिखती
  • ऊपर से देखने पर भी Chevron बेतुका लगता है
    एजेंसी कहती है कि तुमने कानून तोड़ा, और अगर तुम उसी एजेंसी पर मुकदमा करो, तो अदालत एजेंसी का साथ देती है
    आखिरकार इसका मतलब यही हुआ कि अदालत में सचमुच बहस करने का मौका छिन जाता है
  • चिंता यह है कि क्या इतनी तेज़ी से बदलते समय में हमें हर छोटी चीज़ के लिए explicit legislation का इंतज़ार करना पड़ेगा

• ज़्यादा सटीक रूप से कहें तो FCC ने मौजूदा कानून Telephone Consumer Protection Act की औपचारिक व्याख्या कर यह स्पष्ट किया है कि robocall में AI-generated voices उस कानून का उल्लंघन करती हैं, और यह तर्कसंगत लगता है

  • शीर्षक “FCC ने robocalls में AI-generated voices को अवैध माना” होना चाहिए
  • इस फैसले से Stanford founders द्वारा बनाई गई startup समेत कई व्यवसाय और startups खत्म हो जाएँगे
  • मुझे समझ नहीं आता कि FCC को legal precedent तय करने का अधिकार कहाँ से मिलता है

• Robocalls के लिए caller ID पहचान labels अनिवार्य कर देने चाहिए थे
  जैसे उन्हें “Police Officers Benevolent Association [Robocall]” के रूप में दिखाया जाए

  • उसके लिए पूरे देश में फैले 50–70 साल पुराने telecom infrastructure को सचमुच upgrade करना पड़ेगा, और वह होने वाला नहीं है
  • जो करना चाहिए वह पूरी तरह अलग है
    Apple और Google को default software के हिस्से के रूप में personal phone robots उपलब्ध कराने चाहिए
    नया फोन खरीदने पर आप 15 मिनट तक कुछ वाक्य रिकॉर्ड करें, और उसके बाद robot आपकी ओर से कॉल उठाए
    यह robot spammers या telemarketers से बात करते समय उन्हें जितनी देर हो सके उतनी देर लाइन पर उलझाए रखे
    1 मिनट अच्छा है, 10 मिनट और भी अच्छा
    अगर spammers इससे बचने की कोशिश करें, तो Apple और Google robots को बेहतर बनाकर जवाब दे सकते हैं
    कुछ ही महीनों में वह उद्योग खत्म हो जाएगा
    क्योंकि उनके पास हर कॉल पर 30 मिनट खर्च करने की गुंजाइश नहीं होगी सिर्फ यह पता लगाने के लिए कि सामने सच में कोई ऐसा भोला व्यक्ति है जो Nigerian prince को नकद भेज देगा, या कोई खराब software है जो native English speaker न होने वाले support agent को धोखा देना चाहता है
    margins गिर जाएँगे, और असली इंसान की पहचान करने के लिए कहीं ज़्यादा sophisticated AI की ज़रूरत इतनी बढ़ जाएगी कि यह आर्थिक रूप से टिकाऊ नहीं रहेगा
  • “वे” कौन हैं, और यह कैसे पता चलेगा कि कौन-सी कॉल वैध है और कौन-सी नहीं?

• इसका मतलब यह है कि FCC ने सर्वसम्मति से एक declaratory ruling अपनाई है कि AI-generated voices से की गई calls, TCPA के तहत “artificial” मानी जाएँगी
  इसलिए वे पहले से ही artificial robocalls के अवैध होने के अर्थ में अवैध हैं

  • scam calls भी पहले से अवैध हैं, लेकिन उससे खास कुछ होता नहीं दिखता
  • मुझे नहीं लगता कि FCC किसी चीज़ को अवैध बना सकती है
    ऐसे शीर्षक चल रहे वास्तविक court case में मददगार नहीं होंगे
  • “FCC ने घोषणा की कि artificial voice वास्तव में artificial voice ही है”

• ऐसा लगता है कि समस्या नहीं, बल्कि उसके लक्षणों को निशाना बनाया जा रहा है
  robocall की सबसे बड़ी समस्याओं में से एक यह है कि असल में यह पता लगाना लगभग असंभव होता है कि कॉल किसने किया, और spam रिपोर्टिंग tools भी ज़्यादा असरदार नहीं हैं
  कॉल आने पर यह दिखना चाहिए कि उस कॉल की ज़िम्मेदारी किसकी है
  उदाहरण के लिए, यह "[फोन नंबर] [व्यक्ति या संस्था] के नाम पर पंजीकृत है" जैसा दिखे, और अगर spam रिपोर्ट जमा होती जाएँ तो उस पक्ष की telephone network इस्तेमाल करने की क्षमता पर रोक लगनी चाहिए

  • जब तक Pennsylvania के 1% से ज़्यादा मतदाता आख़िरी बार उनसे बात करने वाले व्यक्ति के आधार पर वोट देते रहेंगे, और Super PAC अनलिमिटेड anonymous फंडिंग लेते रहेंगे, तब तक किसी भी media channel पर लोगों को spam भेजने पर कानूनी रोक नहीं लगेगी
    फोन spam राजनीतिक रूप से बहुत प्रभावी है
  • मैं भी सहमत हूँ
    इस तरह की धोखाधड़ी को निशाना बनाना एक अच्छा पहला कदम है, लेकिन नहीं लगता कि विदेशी ऑपरेटर इसका इस्तेमाल कम करेंगे
    मुझे आने वाली ज़्यादातर spam calls तो Do Not Call सूची का भी पालन नहीं करतीं, तो यह क्यों मानेंगी?
    FCC को STIR/SHAKEN के लिए सख़्त deadline तय करनी चाहिए और पालन न करने वाले ऑपरेटरों पर जुर्माना लगाना चाहिए
    तभी VoIP ऑपरेटर इसे गंभीरता से लेंगे
  • मेरी समझ से लंबी अवधि में SHAKEN/STIR ही इस समस्या को हल करने की कोशिश कर रहा है
    यह इतना समय क्यों ले रहा है, पता नहीं, लेकिन अब तक मोबाइल फ़ोन यह दिखा पाने चाहिए कि caller ID verified है या नहीं
    अगला कदम शायद unverified callers को सीधे block करना होगा
    लगता है अभी migration का काफ़ी काम बाकी है
    https://www.fcc.gov/call-authentication
  • किसी नंबर का carrier lookup करना पहले से संभव है, और अच्छा होगा अगर incoming call screen पर location के नीचे वही carrier भी दिखे
    कॉल T-Mobile से आ रही है या किसी ऐसी कंपनी से जिसका नाम पहली बार सुन रहे हों, इससे बड़ा फ़र्क पड़ता है
  • मुझे लगता है यह इस platform पर कई लोगों के privacy नज़रिए के बिल्कुल उलट होगा

• तो क्या इस फ़ैसले के तहत IVR systems भी अवैध हो जाएँगे?
  अगर इससे बहुत सा spam कम हो सकता है तो इस कोशिश की तारीफ़ बनती है, लेकिन फ़ोन कॉल में AI-generated आवाज़ें तो कई दशकों से हर जगह रही हैं, इसलिए जिज्ञासा है
  क्या आवाज़ की गुणवत्ता को लेकर कोई खास रेखा खींची गई है?

  • यह फ़ैसला खास तौर पर सिर्फ़ कॉल शुरू करने वाले पक्ष पर लागू होता है
    IVR इसमें शामिल नहीं है
    automated calls भी consent होने पर अनुमति-योग्य हैं
    जैसे, अगर आपने दवा तैयार होने या reservation waitlist में रखी गई किताब की सूचना के लिए opt in किया हो
    इसका voice quality से कोई लेना-देना नहीं है, और prerecorded voice भी प्रतिबंध के दायरे में आती है

• कैसी common sense की कमी है कि robot voice को अवैध बनाया जा रहा है, लेकिन robocalls को वैसे ही छोड़ा जा रहा है?
  इसका कोई मतलब नहीं बनता

  • इस फ़ैसले का मकसद AI-generated voice वाली calls को उन दूसरे robocalls के समान मानना है जो पहले से ही अवैध हैं

• फ़ोन कॉल में “artificial” आवाज़ें 1971 से मौजूद हैं
  उस समय Federal Screw Works नाम की कंपनी ने Votrax speech synthesizer सबसे पहले विकसित किया था, और engineering Richard Gagnon ने की थी

• इसे लागू कैसे किया जा सकता है?
  क्या सभी automated voice messages पर प्रतिबंध लगा दिया गया है?
  यहाँ “AI” को कैसे define किया गया है?

  • लागू करना मुश्किल है, लेकिन आम तौर पर शिकायतों को originating carrier या calling customer तक trace करके फिर अदालत तक ले जाया जाता है
    automated voice messages पर पहले से ही पाबंदियाँ थीं, और यह फ़ैसला सिर्फ़ यह स्पष्ट करता है कि AI-generated voice automated voice messages की श्रेणी में आती है
    संबंधित आदेश का एक हिस्सा इस प्रकार है

    II. BACKGROUND
    3. The TCPA protects consumers from unwanted calls made using an artificial or prerecorded voice. See 47 U.S.C. § 227(b)(1).
    In relevant part, the TCPA prohibits initiating “any telephone call to any residential telephone line using an artificial or prerecorded voice to deliver a message without the prior express consent of the called party” unless a statutory exception applies or the call is “exempted by rule or order by the Commission under [section 227(b)(2)(B)].” 47 U.S.C. § 227(b)(1)(B). The TCPA does not define the terms “artificial” or “prerecorded voice.”

    और आगे यह आता है

    III. DISCUSSION
    5. Consistent with our statements in the AI NOI, we confirm that the TCPA’s restrictions on the use of “artificial or prerecorded voice” encompass current AI technologies that resemble human voices and/or generate call content using a prerecorded voice.

  • PDF यहाँ है: https://docs.fcc.gov/public/attachments/FCC-24-17A1.pdf

  • कुछ लोग अपनी calls रिकॉर्ड करते हैं
    कंपनियों को consumer-facing direct sales जैसी स्थितियों में compliance के कारण अक्सर रिकॉर्डिंग रखनी पड़ती है
    अगर रिकॉर्डिंग हो, तो algorithm न भी हो, अदालत के लिए मामले-दर-मामला यह तय करना आसान हो जाएगा कि AI voice थी या नहीं