Ask HN: क्या AI-जनित पोस्ट को चिह्नित करने के लिए एक फ्लैग जोड़ा जाना चाहिए?
(news.ycombinator.com)- AI-जनित पोस्ट की रैंकिंग कम किए बिना सिर्फ एक संकेत जोड़ने का प्रस्ताव है, ताकि जो उपयोगकर्ता इन्हें पढ़ना नहीं चाहते वे इन्हें छोड़ सकें
- मुख्य विवाद यह है कि क्या मौजूदा वोटिंग सिस्टम ही पर्याप्त है, या जनरेटिव AI के दौर के अनुसार HN को अपने लंबे समय से चले आ रहे बुनियादी सिद्धांत बदलने चाहिए
1 टिप्पणियां
Hacker News की राय
dang: HN में खुद generative AI text पर रोक का नियम पहले से है: https://news.ycombinator.com/newsguidelines.html#generated, https://news.ycombinator.com/item?id=47340079
पोस्ट के मुख्य टेक्स्ट के लिए अभी वैसा ही नियम नहीं है, लेकिन community आम तौर पर ऐसी पोस्ट नहीं चाहती, या उन्हें कम महत्व देती दिखती है। “सिर्फ prompt दिखाइए” जैसी प्रतिक्रियाएँ https://news.ycombinator.com/genai-pushback पर इकट्ठी करने की वजह भी यही है कि उन्हें उन users को भेजा जा सके जो पूछते हैं कि generative AI वाली पोस्ट report क्यों हुई
अभी एक दिलचस्प arms race चल रही है: AI इंसानों से सीख रहा है, और साथ ही इंसानों के समूह भी AI की लेखन-शैली सीख रहे हैं। पाठक LLM जैसी शैली पर allergy जैसी प्रतिक्रिया देते हैं, और उस क्षण लेख तुरंत low-status category में धकेल दिया जाता है। AI और इंसान एक-दूसरे के अनुकूल होते हुए आखिर कहाँ पहुँचेंगे, यह पता नहीं
इसके उलट, अगर आप चाहते हैं कि लेख को high-status माना जाए, तो उसे खुद लिखिए। pg ने कभी इसे “writes and write-nots” कहा था: https://paulgraham.com/writes.html
यह LLM technology को नकारना नहीं है; HN भी उस पर काफी निर्भर है। असली बात यह है कि उसका इस्तेमाल कैसे किया जाए, और क्या उसे ऐसे लेखन में इस्तेमाल करना चाहिए जिसे दूसरे इंसानों के सामने public किया जाता है: https://x.com/paulg/status/2058871512451412457
सिर्फ चिह्नित करने के लिए report करना असल में tag feature जैसा है, जिसे HN लगातार reject करता आया है, लेकिन इसे पूरी तरह बाहर भी नहीं करता। इसके बजाय, report करते समय वजह माँगी जाएगी और generative AI का शक, spam, off-topic, abusiveness आदि चुनने की संभावना ज्यादा है। सिर्फ सामान्य voting हमेशा नाकाफी होती है: https://hn.algolia.com/?dateRange=all&page=0&prefix=false&sort=byDate&type=comment&query=%22upvotes%20alone%22%20by:dang
generative AI के दौर में HN को बदलना चाहिए या नहीं, इस सवाल का जवाब मैं https://news.ycombinator.com/item?id=48887149 से देना चाहूँगा, और यह https://news.ycombinator.com/item?id=3742902 को homage है
कोई गलतफहमी या खाली जगह लेखक की समझ की कमी से है, AI के न समझने से है, या लेखक ने ठीक से review नहीं किया—यह पता नहीं चलता। कोई शानदार विचार दिखे भी तो यह verify करना मुश्किल होता है कि वह लेखक की insight है या नहीं, क्या वह उसे और समझा सकता है, और वह आया कहाँ से
अगर कोई human co-author पर्याप्त editing कर दे, तो वह अपने दृष्टिकोण और समझ को ठीक-ठीक reflect कर सकता है, लेकिन व्यवहार में ऐसा कम होता है; और यह कि लेखक वास्तविक अर्थ में मौजूद नहीं है, इसलिए content के साथ और गहराई से engage नहीं किया जा सकता—discussion sites के लिए यह खास तौर पर बड़ी समस्या है
किसी जाने-माने expert की पोस्ट हो तो उसे भरोसे के साथ सीखने के रवैये से पढ़ा जा सकता है, लेकिन AI जिन घिसे-पिटे expressions का बहुत इस्तेमाल करता है, वे यह signal बन जाते हैं कि पता नहीं कितना human review हुआ है। आखिर में वह “ऐसी पोस्ट जिसके मूल्य का पता शायद तभी चले जब इंसान पूरी चीज़ analyze करे” के ढेर में डाल दी जाती है, या सीधे reject कर दी जाती है
IgorPartola: अगर AI-generated label लगाया गया तो भरोसा खो जाएगा, इसलिए कोई भी स्वेच्छा से label नहीं लगाएगा। community clues और अंदाज़ों के आधार पर report कर सकती है, लेकिन वह accurate नहीं होगा और extra work भी लगेगा
blog वाला era असल में खत्म हो चुका है, और यह जरूरी नहीं कि बुरी बात ही हो। AI से पहले ही blog spam और corporate blogs ने अच्छे blogs को खराब कर दिया था, इसलिए असली सवाल है कि blogs की जगह क्या लेगा
अगर AI writing इंसानी writing से अलग न दिखे और accurate व interesting हो, तो लेखक कौन है क्या यह महत्वपूर्ण है? बचना AI generation से नहीं, बल्कि low quality से नहीं चाहिए?
भविष्य में ऐसा समय आ सकता है जब पूरी तरह अलग करना संभव न हो, लेकिन uncertain future की वजह से अभी कुछ न करने की दलील अच्छी नहीं है। फिलहाल AI content काफी हद तक पहचाना जा सकता है, और अगर उसे AI जैसा न दिखने के लिए edit किया गया है, तो कम से कम उसमें ज्यादा human effort लगा है
किसी ने keyboard पर खुद type किया या नहीं, यह महत्वपूर्ण नहीं, लेकिन content को इंसान ने आकार दिया या नहीं महत्वपूर्ण है। LLM सिर्फ typing नहीं करता; वह style, tone, voice और structure तक तय करता है, और यही चीजें human-to-human communication का core हैं
Retr0id: काफ़ी वोटर AI-generated वाक्यों को पहचान नहीं पाते, और पहचान भी लें तो परवाह नहीं करते, या premise पर्याप्त दिलचस्प हो तो आगे बढ़ जाते हैं। अच्छा/बुरा और AI/मानव जैसी 2D voting लाने से शायद पोस्ट में AI कितना इस्तेमाल हुआ है, इस पर होने वाली meta बहस कम हो सकती है
minimaxir: AI label feature theory की तुलना में reality में कहीं ज़्यादा जोखिमभरा है। Social media पर अगर कोई दुर्भावनापूर्वक “AI?” कह दे, तो false positive से हंगामा खड़ा हो जाता है और original author को खुद को साबित करना पड़ता है
Blog posts के लिए यह साबित करने का कोई ठोस तरीका भी कम है कि वे मानव ने लिखे हैं, और edit history जमा करने की मांग करना भी अनुचित है। HN अगर यह feature लाता है, तो फायदा से ज्यादा नुकसान होने की संभावना है
shantnutiwari: मैं विरोध करता हूँ। HN की हर top post पर “यह LLM है” जैसे कुछ comments लग जाते हैं, और अब यह “मुझे यह लेख पसंद नहीं, इसलिए यह LLM होगा” कहने का विकल्प बन गया है: https://news.ycombinator.com/item?id=48063759
ऐसे comments को थोड़ा-थोड़ा upvote मिलता है, इसलिए यह आलसी karma farming जैसा लगता है। 100 posts को LLM कहोगे तो कभी न कभी सही निकल ही जाएगा, और ज्योतिषी की तरह उस एक बार से अपनी सफलता का ढिंढोरा पीटा जा सकता है। ऐसे low-effort comments को रोकने का कोई तरीका चाहिए
dawnerd: YC जितना AI में invest करता है, उसे देखते हुए ऐसे कदम की उम्मीद करना मुश्किल है। यहाँ बहुत से लोग बस झुककर इसे स्वीकार कर लेना चाहिए, ऐसा मानते हैं, और निजी तौर पर यह मुझे अपराधी/हमलावर की दलील जैसा लगता है
nunez: मैंने एक महीने पहले भी इसी feature की request की थी: https://news.ycombinator.com/item?id=48296731
अगर पर्याप्त users किसी post को AI content के रूप में report करें, तो title के अंत में
[AI Generated]label लगा देना अच्छा होगाCM30: AI-generated content में आम तौर पर खुद बनाए गए काम की तुलना में कम investment होती है, इसलिए label उपयोगी है, लेकिन इसे ठीक से handle करने का तरीका स्पष्ट नहीं है
Online, सिर्फ लंबे dash इस्तेमाल करने या image में हाथ अजीब दिखने के कारण मानव-निर्मित works तक को AI कह देने वाली witch-hunts और false positives बहुत हैं। अगर बहुत सतर्क users सबसे बुरा मानकर चलें, तो आधी site पर AI label लग सकता है
अगर author खुद disclose करे तो trust और readers खो देगा, इसलिए झूठ बोलने का बड़ा incentive है, और AI detection tools में भी false positives बहुत हैं, इसलिए उन पर भरोसा करना मुश्किल है। Report reasons में AI content जोड़ दें, लेकिन सामान्य submissions के लिए good faith assume करें, और उम्मीद है पूरी site जरूरत से ज्यादा paranoid या restrictive न हो जाए
Debugreality: कुछ ideas ऐसे भी होते हैं जो AI की मदद के बिना दुनिया के सामने आ ही नहीं पाते। दशकों से सोचता आ रहा democracy का एक concept मैंने हाल ही में white paper के रूप में publish किया, जिसमें AI ने idea expansion, document structure और body text लिखने में मदद की
मैं academic नहीं हूँ, इसलिए AI के बिना शायद इसे पूरा नहीं कर पाता, और मुझे लगता है कि यह सिर में रहकर गायब हो जाने से बेहतर है कि public हो। खुद लिखा हुआ academic document बेहतर होता, लेकिन भले ही अधिकांश AI ने लिखा हो, मैंने दो दिनों तक हर paragraph से सहमत हूँ या नहीं यह verify किया और issues ठीक किए
Quality judge करते समय AI इस्तेमाल हुआ या नहीं से ज्यादा लगाया गया मानव प्रयास देखना उचित है
Body text LLM से लिखवाने के बजाय मैं core insights की खुद लिखी हुई version को कहीं ज्यादा पसंद करूँगा। मैं कई pages के sentences में मुख्य बात ढूँढते नहीं भटकना चाहता। खासकर किसी idea को “फुलाने” के लिए LLM इस्तेमाल करना लोगों को bore करने का सबसे पक्का रास्ता है
Insight को लंबे document में बदलने का काम legislative drafting stage पर ही जरूरी होता है। “बताओ कि तुम data कैसे इस्तेमाल करते हो” और GDPR के संबंधित provisions की तुलना कर लें
lazyasciiart:
[1997]जैसे title markers लगाने का क्या खयाल है। Content ऐसा हो सकता है जिसमें reader को दिलचस्पी हो या न हो, लेकिन source पता हो तो वह उसे अलग तरह से ग्रहण कर सकता है[AI]लगा दें, लेकिन AI के अपने legitimate uses भी हैं, इसलिए शायद[SLOP]ज्यादा उपयुक्त हो सकता हैteo_zero: जैसे कुछ लोग AI-generated लेख बर्दाश्त नहीं कर पाते, वैसे ही कुछ लोग grammar mistakes बर्दाश्त नहीं कर पाते। अगर
AI generatedlabel आया, तोlousy with mistakeslabel भी चाहेंगेDevKoala: सिर्फ यह मायने रखता है कि लेख उपयोगी, facts पर आधारित और unbiased है या नहीं। वह कैसे लिखा गया, इसकी मुझे परवाह नहीं
thinkingemote: HN पर जिन लेखों की काफी मांग होती है, उनमें से बहुत-से LLM के बारे में हैं, और उनमें से कई LLM से लिखे गए होते हैं। पढ़ने में भयानक होते हैं और प्रेरित करने वाले रत्न भी लगभग नहीं मिलते, इसलिए अगर संबंधित हो तो बस सरसरी तौर पर देखता हूं; असली मूल्य आम तौर पर comments में होता है
अगर LLM शैली आसानी से पहचानी जा सकती है, तो consumer LLM से पहले के AI शोधकर्ताओं और founders के papers भी देखने लायक हैं। उनकी शैली मौजूदा LLM prose से हैरान करने वाली हद तक मिलती-जुलती है
rddbs: AI से लिखे लेखों से ज्यादा मैं AI से जुड़े लेखों को ही छिपाना चाहता हूं। अब HN का ज्यादातर content AI की बातें जैसा लगता है, जिससे ऊब हो रही है। संतुलन वापस दिलाने वाले browser extension जैसे किसी तरीके के बारे में जानना चाहूंगा
मैं खुद पहले step में front page के सभी AI-related posts छिपाता हूं, और दूसरे step में बचे हुए interesting posts खोजता हूं। अफसोस, आजकल अक्सर ऐसे दिन होते हैं जब कुछ भी बचता नहीं
mattas: इस मुकाम पर शायद
not AIlabel जोड़ना ज्यादा सही होगाramon156: मैंने एक personal extension बनाया है, जो मुख्य रूप से AI-generated जानकारी पोस्ट करने वालों को मेरी feed से block करता है। निजी तौर पर मेरे लिए ठीक काम करता है, लेकिन पूरे service पर भी कारगर होगा या नहीं, पता नहीं
लोगों को खुद निर्णय लेने देने के लिए सिर्फ tag देना भी काफी हो सकता है। DeArrow और SponsorBlock जैसे YouTube-related extensions crowd participation वाले तरीके को अच्छे से implement करते हैं
cloudpilot: मैंने AI की मदद से app बनाया, लेकिन messages खुद लिखे थे, फिर भी report कर दिया गया
jaredcwhite: मेरा मजबूत विश्वास है कि AI-generated text दिखना ही नहीं चाहिए। हालांकि साफ LLM निशानों के अलावा इसे साबित करना मुश्किल है, और वास्तव में इंसान द्वारा लिखे जाने का सबूत मांगना भी आसान नहीं
धीरे-धीरे मैं ऐसी communities को तरजीह देने लगा हूं जहां legitimate तौर पर share किए गए लेखों के बारे में यह मानकर चला जा सके कि वे इंसान ने लिखे हैं
सिद्धांत से सहमत हूं, लेकिन इसे fair तरीके से implement करना मुश्किल है और भेदभाव का जोखिम बड़ा है। विडंबना यह भी है कि typos ठीक कर दें और editing के निशान छोड़ दें, तो वह उल्टा इंसानी जैसा दिखता है
shahzaibmushtaq: AI मानव बुद्धिमत्ता (HI) से श्रेष्ठ नहीं है और आगे भी नहीं हो सकता। अपना काम AI से generate हुआ है या नहीं, और किस अनुपात में इस्तेमाल हुआ है, यह बताना लेखक और creator की जिम्मेदारी है
KingOfCoders: लेख या तो अच्छा होता है या नहीं। उसे इंसान, AI या बिल्ली—किसने लिखा, इससे फर्क नहीं पड़ता
amelius: अच्छा होगा अगर Unicode में Latin-1 characters जैसे, लेकिन AI tools के लिए reserved code area जोड़ दिया जाए। AI-generated चीजों में एक तरह का fixed marker bit छोड़ा जा सकेगा
अभी भी AI companies से ASCII
0x20की जगह special space character इस्तेमाल करने को कहा जाए तो कुछ ऐसा ही implement किया जा सकता है, और generated data को दोबारा train करने की समस्या से बचने में भी मदद मिलेगीnickandbro: pure text लेखों में क्या लंबे dash की गिनती करेंगे, और असल में enforce कैसे करेंगे, समझ नहीं आता। खास उद्देश्य से बनाए गए AI detectors में भी errors बहुत ज्यादा हैं
warshinder: मैं पहले comments देखता हूं। कोई न कोई हमेशा बता देता है कि लेख AI वाला है, पढ़ने लायक नहीं है, या load नहीं हो रहा
शुरुआती HN में इससे submitter को traffic spike से बचने में भी मदद मिलती थी, और paywall हो तो कोई archived version comments में डाल देता था
CqtGLRGcukpy: जिसे कोई AI-generated समझे, वह लेख असल में वैसा न भी हो सकता है, और AI detector भी इतना भरोसेमंद नहीं कि निर्णायक रूप से कह सके
अभी front page पर नंबर 1 वाला सतही ad-like लेख इसका अच्छा उदाहरण है: https://news.ycombinator.com/item?id=48884853
aryehof: डर है कि किसी खास इंसान के viewpoint को सिर्फ AI-generated होने का संकेत देकर आसानी से खारिज या चुप कराया जा सकेगा
rdataguy: AI-generated है या नहीं, यह हमेशा आसानी से पता नहीं चल सकता और feature का दुरुपयोग भी हो सकता है। फिर भी अगर collective intelligence पर्याप्त मात्रा को पहचान ले, तो उपयोगी होने की संभावना है
itsgrimetime: AI लेखों पर label लगाने का विरोध नहीं है, लेकिन लिखने के तरीके की परवाह किए बिना content को ज्यादा गहराई से लिया जाए, यह चाहूंगा। हाल में ऐसा लगता है कि submission क्या कह रहा है, उससे ज्यादा लिखने के तरीके को देखकर तुरंत reject या criticize करने की प्रवृत्ति बढ़ी है
Xotic007: AI label आ जाए तो creators को बचने के लिए बस स्पष्ट detection target मिल जाएगा। नतीजतन खुलेआम AI जैसी style कम होगी, लेकिन detection को bypass करना मुश्किल नहीं, इसलिए creator effort लगभग नहीं बढ़ेगा
deevus: मैंने खुद लिखा हुआ Show HN post automatic moderation में फंस गया। सच कहूं तो मेरी rejection sensitivity trigger हो गई, और उसके बाद से HN पर post नहीं किया
edoceo: submissions पर सिर्फ downvote feature जोड़ देना काफी नहीं होगा क्या
flagपहले से हैEsophagus4: संदर्भ के लिए देखने लायक concept यह है: https://en.wikipedia.org/wiki/Evil_bit
atomicthumbs: मशीन से लिखी चीज़ पढ़ने की सलाह देना सामने वाले के समय का सम्मान न करना है। अगर आपने खुद लिखने लायक परवाह नहीं की, तो किसी और के पढ़ने की भी कोई वजह नहीं है, इसलिए इसकी कीमत 0 है
mleroy: AI content को ट्रैक करके report करने के बजाय authors को स्वेच्छा से यह दिखाने दें कि content original है। Links में
[Handmade],[Craft-Article],[Artisan-Thinking]जैसे tags लगाए जा सकते हैंjeremyjh: submissions को downvote नहीं किया जा सकता, और कई लोगों को ऐसी चीज़ पढ़ने से परहेज़ नहीं होता जिसे किसी ने खुद नहीं लिखा, इसलिए सामान्य voting पर्याप्त नहीं है
writing के अलावा की प्रक्रिया में काफी मेहनत लग सकती है, इसलिए सिर्फ AI-written होने से यह निष्कर्ष नहीं निकाला जा सकता कि उसमें कोई value नहीं है। फिर भी वास्तविक इंसान-से-इंसान संवाद का सम्मान करने वाला norm बनाने के लिए मैं इसे disadvantage देने की ओर झुकता हूँ
मैं कई कामों के लिए AI का खूब उपयोग करता हूँ, इसलिए generated content अक्सर पढ़ता हूँ, लेकिन AI की खास आवाज़ जितनी पहचान में आने लगती है, उतनी ही ज्यादा खटकती है। मेरे prompt के जवाब को पढ़ना और ऐसा लेख पढ़ना जिसके prompt, edits की संख्या और human review हुआ या नहीं—इन सबके बारे में कुछ पता न हो, दोनों में बहुत फर्क है
आम तौर पर इंसान द्वारा लिखा गया लेख ऐसा होता है जिसमें लेखक ने पाठक से कम-से-कम 5 गुना ज्यादा मेहनत की होती है, लेकिन AI लेख में यह पता नहीं चलता कि पाठक लेखक से ज्यादा समय लगा रहा है या नहीं, इसलिए यह असहनीय distraction बन जाता है
nyellin: अगर AI होने या न होने का label लागू किया गया, तो हर post की comments इस बहस में बदल जाएँगी कि इसे AI ने लिखा या नहीं, और कितना लिखा। बेहतर है कि इसे content itself के आधार पर judge करने दिया जाए
lukasbm: कोई भी बिना किसी filtering वाले chatbot output को पढ़ना पसंद नहीं करता, लेकिन इसे पक्के तौर पर detect करना भी असंभव है