स्वचालन कल्पना के दिल में Flawed तर्क

टेक विश्वास, जवाबदेही या श्रम के लिए हल नहीं करता है - यह सिस्टम और व्यक्तियों से दूर जिम्मेदारी को स्थानांतरित करता है।

निजी, सार्वजनिक और गैर-लाभकारी क्षेत्रों के पार, डेटा के बढ़ते स्टोरों के लिए एक आम नुस्खा लागू किया जा रहा है: अंतर-क्षमता → एकीकरण → अनुकूलन → स्वचालन।

"स्मार्ट शहरों," "कुशल सेवाओं" और "असीमित अवकाश" के युग में प्रवेश करने का वादा करते हुए, स्वचालन व्यवसाय और नौकरशाही में वर्तमान क्रांति को चलाने वाली कल्पना है।

डिजिटल युग में आपके कार्यों द्वारा उत्पन्न भारी मात्रा में जानकारी (व्यक्तिगत रूप से पहचान योग्य और अन्यथा) से अभिभूत? डरने की नहीं, ऑटोमेशन का जमाना है।

सभी को हल करने के लिए एक ढेर

स्वचालन वादे (सस्ते) अनुपालन। यह दक्षता की वेदी पर पूजा करता है। यह आपकी दुष्ट समस्याओं को डीबग करने योग्य और आपके जटिल सिस्टम को रेखीय कारण संबंधों के एक सेट के रूप में पेंट करता है जो केवल विघटित होने की प्रतीक्षा कर रहा है। यह निजी बनाम सार्वजनिक संस्थानों द्वारा सामना की जाने वाली समस्याओं और प्रक्रियाओं के बीच अंतर नहीं करता है। यह न केवल हीरे के लिए आपके डेटा को माइन करेगा, बल्कि पत्थरों को काट और पॉलिश भी करेगा। सीधे शब्दों में कहें, तो यह "दुनिया को बदल देगा।"

संगठन सिर्फ अपना डेटा ही नहीं जुटा रहे हैं। विभिन्न स्रोतों से डेटा के बड़े पैमाने पर विश्लेषण का सबसे अच्छा अंतर्दृष्टि आता है। यही कारण है कि सार्वजनिक क्षेत्र की एजेंसियां ​​सेवाओं के डेटा को पूल कर रही हैं, और क्यों उपभोक्ता कंपनियां अपने ग्राहकों की व्यक्तिगत जानकारी को टटोल रही हैं। न्यूयॉर्क टाइम्स द्वारा उद्धृत, अमेरिकी कंपनियों ने उपभोक्ता डेटा प्राप्त करने और प्रसंस्करण पर 2018 में $ 20 बिलियन के करीब खर्च किया। उस खर्च का वादा किया तर्क कुछ इस तरह है:

चरण 1 में, अंतर, डेटा को मशीन पठनीय और सुपाच्य बनाया जाता है। जाँघ मैन्युअल रूप से पीडीएफ को डिजिटल करने के दिन हैं। स्कैनर, कंप्यूटर विज़न, और प्राकृतिक भाषा प्रसंस्करण एल्गोरिदम सहित उपकरणों का बढ़ता हुआ स्टैक विश्लेषण के लिए परिपक्व और संकलित डेटा निकाले गए और संकलित डेटा-कूड को पुन: उत्पन्न करने में भी बेहतर हो रहा है। ग्राफ एनालिटिक्स के साथ, यहां तक ​​कि सबसे अधिक असमान डेटा सेट को खनन के लिए स्तरित किया जा सकता है।

चरण 2 में, एकीकरण, अलग-अलग प्रणालियों के डेटा को जोड़ दिया जाता है और इंटरफेस, डैशबोर्ड और डेटाबेस के माध्यम से सुलभ बनाया जाता है। अनुदैर्ध्य शोधकर्ताओं, आनन्द! सिलोस को प्रतिबंधित किया जाता है। रेखांकन का विश्लेषण किया जाता है। पहले अनदेखे रिश्तों को चित्रित और कल्पना की जाती है। रुझानों को हेराल्ड किया जाता है, उनकी ताकत और दिशात्मकता को "अंतर्दृष्टि" के रूप में विच्छेदित और परोसा जाता है।

चरण 3 में, अनुकूलन, एल्गोरिदम को स्टैक पर स्तरित किया जाता है जो "सिफारिश," "निजीकृत" और "भविष्यवाणी" जैसी चीजों को करने का वादा करता है, जो किसी भी मानव मानव या कभी भी बेहतर हो सकता है। मूल्यों के बारे में अपनी गन्दी बहस के साथ जटिल हितधारक जुड़ाव के बदले में, ये एल्गोरिदम हमारे पिछले निर्णयों के तर्क और प्रमुख कथन - पूंजीवाद और नवउदारवादी संस्थागतवाद से अपना संकेत लेते हैं। वे दक्षता की ओर ड्राइव करते हैं। वे विकास की ओर बढ़ते हैं। यदि पूर्ववर्ती सिस्टम जो उनके ऐतिहासिक डेटा इनपुट उत्पन्न करते हैं, वे टिकाऊ, न्यायसंगत या उचित थे, एल्गोरिदम भी हो सकते हैं। यदि नहीं, तो आगे - पतन को गति दें।

चरण 4 में, स्वचालन, नए एल्गोरिदम को नई जिम्मेदारियां दी जाती हैं। एक स्टैक पर बिल्डिंग जो पहले से ही सिस्टम गतिशीलता और संबंधों को बेहतर ढंग से समझने का दावा करता है, वे अब जवाबदेही तंत्र और निर्णय लेने वाली संरचनाओं को पुनर्गठित करने की पेशकश करते हैं। वे साख निर्धारित करते हैं। वे स्वास्थ्य लाभ का आवंटन करते हैं। वे सार्वजनिक सेवाओं तक पहुंच की भविष्यवाणी करते हैं - पहले के ऑर्थोगोनल व्यवहारों पर, या अपनी पहचान साबित करने की क्षमता पर।

अफसोस। निकट अवधि में, कम से कम, वादा की गई भूमि अरकंसास में एक डीएचएस डिजिटल खाता बनाने की कोशिश कर रही है, और दुर्भाग्य से यह सुंदर नहीं है।

"भविष्य पहले से ही यहाँ है - बस असमान रूप से वितरित"

परोपकार में मेरी मौजूदा पर्चियों से, मैं हर जगह बदलाव को देख रहा हूं - अलग-अलग जगहों पर अलग-अलग गति से, उस कार्य के लिए बहुत ज़मीन को बदलना जो हम सेक्टरों और क्षेत्रों में करना चाहते हैं - कभी-कभी, हमेशा हमेशा के लिए।

अतीत में, मैंने सार्वजनिक क्षेत्र (DoD's Cebrowski Institute), निजी क्षेत्र (प्रौद्योगिकी वायदा पर सिंडिकेटेड शोध) और क्रॉस-सेक्टर परामर्श (पुरस्कार प्रोत्साहन प्रतियोगिताओं के लिए नवाचार पारिस्थितिकी तंत्र विकसित करना) में काम किया है। अपेक्षाकृत कम समय में, मैं तकनीकी जुड़ाव के प्रति उत्साही (24 वर्ष की आयु में, मैंने खुद को एक "एप्लिकेशन में" वियरबल्स इंजीलवादी ") के रूप में वर्णित किया, जो कि मानव प्रणालियों में सकारात्मक रूप से हस्तक्षेप करने के लिए प्रौद्योगिकी की क्षमता से सावधान रहने के लिए सतर्कतापूर्ण स्केप्टिक है।

पिछले साल, मैं सैंड हिल आरडी पर एक बैठक में था। स्वचालित सार्वजनिक क्षेत्र की प्रणालियों के विकास में नैतिकता और इक्विटी को केंद्रित करने के बारे में मेरे ड्रम को हराकर, जब एक फंडर और डेटा एकीकरण उत्साही ने बहुत गंभीरता से पूछा, "आप इसे क्यों लाते रहते हैं - जैसे, क्या गलत हो सकता है?

इस समय, मेरे दृष्टिकोण से, यह गलत है कि क्या गलत हो सकता है और क्या पहले से ही इसके बारे में अधिक है। स्वचालन कल्पना के केंद्र में कुछ सड़ा हुआ है।

स्वचालन कई नामों ("कृत्रिम बुद्धिमत्ता," "एल्गोरिथम निर्णय लेने", आदि) से जाता है, लेकिन अपनी वास्तविक प्रकृति को छिपाना पसंद करता है। यहाँ कई चेहरे हैं जो इसे पहनते हैं।

कचरा अंदर कचरा बाहर।

और इसमें से अधिकांश कचरा है।

निश्चित रूप से, "बड़े डेटा" ने उन संबंधों और संबंधों को प्रकट किया है जो विमुद्रीकरण, मूल्य निर्माण और बेहतर सेवा वितरण (शायद जितना सोचते हैं उससे कम) सक्षम करते हैं। लेकिन यह काफी हद तक डेटा की गुणवत्ता और सत्यता के बावजूद है, इसके कारण नहीं।

कई दुराचारियों में से एक का हवाला देते हुए, जो हम निर्माण कर रहे हैं वह वास्तव में कृत्रिम बुद्धिमत्ता नहीं है, यह (त्रुटिपूर्ण) मानव बुद्धि है औद्योगिक सामाजिक तंत्र के पैमाने पर - हाँ, पर्दे के पीछे का आदमी अभी भी सभ्यता के घुटनों पर मुड़ रहा है। और हाँ, यह वास्तव में पालो ऑल्टो में मोजे और सैंडल के साथ कार्गो शॉर्ट्स पहने एक सफेद आदमी है।

योजना अक्सर खुद को भविष्यवाणी के रूप में प्रच्छन्न करती है।

पैमाने पर, एल्गोरिदम भविष्य का अनुमान लगाते हैं।

जब मशीनें सटीक भविष्यवाणी करती हैं, तो यह यथास्थिति की विजय है, दूरदर्शिता की नहीं।

अधिक बार, मनुष्यों के साथ के रूप में, वे स्वयं-पूर्ति की भविष्यवाणी करते हैं। वे इस समय अधिक तेजी से, अधिक सटीक, और आपके इनपुट की कम आवश्यकता के साथ सेवा करेंगे। नेटफ्लिक्स पर आगे क्या देखना है, इसकी सिफारिश करने के लिए, यह वास्तव में बहुत अच्छा है। मुझे एक मजबूत महिला प्रधान के साथ विज्ञान-फाई फिल्मों को पसंद करने से रोकने की इच्छा नहीं है। (यदि यह आपके फिल्टर बबल में प्रवेश नहीं किया है, तो तत्काल शिविर क्लासिक द पिरामिड पर न सोएं।)

लेकिन जब यह सार्वजनिक क्षेत्र की सेवा वितरण और प्रणालियों की बात आती है जो परिवारों और आजीविका पर वास्तविक प्रभाव डालती है, तो यह एक अलग कहानी है। हम अतीत के पैटर्न पर जानबूझकर भविष्य के निर्णय लेने का मॉडल क्यों बनाएंगे, जिसे हम व्यवस्थित रूप से पक्षपाती, अनुचित, असमान, भेदभावपूर्ण और कई मामलों में वैचारिक रूप से गैर-जिम्मेदार मानते हैं, अगर खतरनाक नहीं है? निश्चित रूप से, भविष्य के फैसलों को प्रोजेक्ट करने के लिए एल्गोरिदम पिछले पैटर्न से सीखने में बहुत अच्छा है। लेकिन असंख्य प्रणालियों में, यह आखिरी चीज है जो हमें उन्हें करना चाहिए।

घर्षण स्थिरता का इंजन है - और प्रगति का।

स्वस्थ प्रणाली अराजकता के किनारे पर पनपती है।

स्वचालन "प्रगति" के बैनर के तहत आता है, लेकिन खुद को ठहराव का एक एजेंट बताता है।

घर्षण - संघर्ष - जैविक विकास, उपकरण उपयोग और प्रौद्योगिकी विकास, एक संपन्न प्रतिरक्षा प्रणाली, और अधिक में ड्राइविंग बल होने के लिए प्रेरित किया जाता है। और फिर भी ऑटोमेशन की रेसिपी बुक में, यह सबसे पहले संघटक निर्वाह की सूची में है।

अपने खुद के अनुसंधान करने की बीमारी? एल्गोरिदम जानकारी के विशाल भंडारों की खान देगा, ताकि आपके पास न हो। लाइन में इंतजार की बीमारी? एल्गोरिदम आपके आगमन के समय को अनुकूलित कर सकता है। बुनियादी मानव संचार के हिस्से के रूप में प्रतिक्रियाओं की रचना? एल्गोरिदम एक प्रतिक्रिया का सुझाव दे सकता है जो अज्ञानतावश बस इतना है कि आप।

लेकिन हमारी हर (ट्रांस) कार्रवाई को लुभाने के लिए इस दौड़ में क्या दांव पर है? क्या खो सकता है जब हमें इंतजार नहीं करना पड़ता है, बोरियत झेलनी पड़ती है, संघर्ष करना पड़ता है, इसके बारे में सोचना पड़ता है, या कोशिश करनी चाहिए?

अनुकूलन और प्रभाव नियंत्रण के सूक्ष्म रूप हैं।

एड-टेक बिजनेस मॉडल से उधार लेना, एक पूंजीवादी समाज में स्वचालन का अंत-खेल न केवल अधिक सामान बेच रहा है, बल्कि वास्तव में मानव व्यवहार को डिजाइन कर रहा है।

डाटा-माइनिंग इन्फ्रास्ट्रक्चर अंडरगार्मिंग ऑटोमेशन वही है जो सर्विलांस कैपिटलिज्म का समर्थन करता है, और यह हमारी एजेंसी को कुंद करना चाहता है, हमारे अभयारण्य को लूटता है, और हमारी अप्रत्याशितता को मिटाता है। जैसा कि शोशाना ज़ुबॉफ़ इसे कहते हैं, "क्लिच को भूल जाओ कि अगर यह मुफ़्त है तो आप उत्पाद हैं - आप उत्पाद नहीं हैं, लेकिन केवल कच्चे माल का मुफ्त स्रोत है जहाँ से उत्पाद बिक्री और खरीद के लिए बने हैं ... आप उत्पाद नहीं हैं, आप परित्यक्त शव हैं। "

"अल्गोरिथम एंड ब्लूज़: द टायरनी ऑफ़ द कमिंग स्मार्ट टेक यूटोपिया," ब्रेट फ्रिसमैन ने "स्मार्ट टेक" और स्वचालन के दिल में कुछ विचारधारा का वर्णन किया है:

"माना जाता है, स्मार्ट फोन, ग्रिड, कार, घर, कपड़े और इतने पर हमारे जीवन को आसान, बेहतर, खुशहाल बना देगा। इन दावों को एक स्मार्ट-टेक यूटोपियन विजन में गहराई से निहित किया गया है जो पूर्व तकनीकी-यूटोपियन विजन जैसे कि साइबर-यूटोपियनवाद के साथ-साथ आर्थिक-यूटोपियन विजन जैसे कि घर्षण-मुक्त, पूरी तरह से कुशल बाजारों और आइरिसवादी दृष्टि के कोसेन विचार से बनाता है। वैज्ञानिक रूप से प्रबंधित, पूरी तरह से उत्पादक श्रमिक। हमारे आधुनिक डिजिटल नेटवर्क वाली दुनिया में ये विज़न आदर्श इंटरनेट, बाजारों और कार्यस्थलों के अपने मूल संदर्भों से परे हैं। स्मार्ट-टेक हमारे जीवन का अधिक प्रबंधन कर सकते हैं। ”

मशीन लर्निंग में कोई जादू नहीं है।

केवल लोगों और शून्य, रेखांकन और सहसंबंध।

मशीन लर्निंग में कोई जादू नहीं है, बस पेटिंग डिसीमेकिंग (और इस तरह जवाबदेही) का एक व्यापक प्रवाह है। निश्चित रूप से, एक ऐसी दुनिया में निहित शक्ति असंतुलन, जहां कुछ मनुष्य अन्य मनुष्यों की ओर से निर्णय लेते हैं (कुछ भी नहीं कहने के लिए) बहुत समस्याग्रस्त है, लेकिन क्या हम वास्तव में इतना गौरवशाली गणितीय समीकरण बेहतर काम करने जा रहे हैं?

न्यूयॉर्क टाइम्स के साथ बात करते हुए, कंप्यूटर प्रोग्रामिंग के दादा डोनाल्ड नथ ने हाल ही में स्वीकार किया, “मुझे चिंता है कि एल्गोरिदम दुनिया में बहुत महत्वपूर्ण हो रहे हैं। यह पता चला कि कंप्यूटर वैज्ञानिक चिंतित थे कि कोई भी हमारी बात नहीं सुन रहा था। अब मैं चिंतित हूं कि बहुत से लोग सुन रहे हैं। ”

यह स्पष्ट है कि कई निर्णय निर्माताओं ने पहले ही फंतासी में खरीदा है कि मशीनों को हमारे द्वारा पसंद करने के लिए बेहतर अनुकूल है। कई मामलों में, बिना निवारण या प्रक्रिया के प्रक्रिया के लिए कई मामलों में, कोड को महत्वपूर्ण प्रणालियों और निर्णयों के प्रभारी के रूप में रखा जा रहा है। एक छोटी सी एल्गोरिथ्म के बाद स्वास्थ्य देखभाल से इनकार करने के बाद संभोग की तलाश में कौन कानूनी लड़ाई लड़ सकता है? विडंबना यह है कि केवल उन लोगों की आय है जो उन्हें सार्वजनिक सेवाओं तक पहुंच की आवश्यकता है।

कौन जीतता है - और कौन हारता है - एक स्वचालित दुनिया में?

स्वचालन असमानता के पूर्ण नए रूपों में प्रवेश करने का वादा करता है।

तेजी से, सेवाओं की पहुंच जो सेवा वितरण के स्वचालन पर एक स्पष्ट रूप से मानवीय चेहरा डालती है, प्रीमियम पर बेची जाती है। और एक स्वचालित दुनिया में, गोपनीयता और अभयारण्य आप के लिए भुगतान करने वाले विशेषाधिकार हैं।

“हर किसी के लिए बेहतर कभी भी बेहतर नहीं होता है। यह हमेशा कुछ के लिए बदतर मतलब है। " - मार्गरेट एटवुड

लंबे गेम जीतने की योजना बनाने वालों के पूर्वावलोकन के लिए, स्वचालन के कुछ सबसे मुखर प्रस्तावकों पर नज़र डालें: + अंतर-अमेरिकी विकास बैंक (IDB) सार्वजनिक क्षेत्र में भविष्य कहनेवाला विश्लेषिकी के उपयोग को बढ़ावा दे रहा है, एक जारी बुत का हिस्सा है "विकास के लिए डेटा" के रूप में भी जाना जाता है। + आईबीएम के लिए, डेटा नया तेल है। उद्यम सॉफ्टवेयर कंपनियों के लिए, स्वचालन वही है जो रात्रिभोज के लिए है, और सार्वजनिक क्षेत्र एक बड़े पैमाने पर उभरता हुआ बाजार है। + जैसा कि हमने फेसबुक के मार्क जुकरबर्ग से सुना, जब (कमजोर रूप से) मंच पर लगभग किसी भी समस्या पर कांग्रेस द्वारा चुनौती दी गई थी कि अब वैश्विक सूचना खपत (प्रारंभिक तौर पर नए सिरे से लड़कियों की जांच से जुड़े घर्षण को कम करने के लिए बनाया गया) की मध्यस्थता करता है: एल्गोरिदम इसे ठीक कर देंगे। + एक्सेंचर जैसी बड़ी कंसल्टिंग फर्मों ने अपनी "टेक्नोलॉजी विजन" से जो हासिल किया है, उससे फायदा होगा। इस हफ्ते, मैकिन्से सत्तावादी सरकारों की सहायता और वैधता के लिए आग के नीचे है।

फंडामेंटल रूप से, स्वचालित भविष्य में निहित व्यापार-नापसंद होते हैं। हम दक्षता के ग्रहण किए गए मूल्य के आधार पर माल का एक बिल बेचते हैं, लेकिन इक्विटी में अदृश्य व्यापार बंद करते हैं। हमें घर्षण से आजादी का वादा किया जाता है, लेकिन अंत में सीरियसनेस खत्म हो जाती है। हमारे सिस्टम संसाधन आवंटन का अनुकूलन करते हैं, लेकिन केवल हमें सर्वेक्षण करके और सिस्टम के साथ हमारी बातचीत के प्रबंधन के लिए तेजी से जिम्मेदार बनाकर। हम एक ऐसे भविष्य की आशा करते हैं, जहां ड्रूडेरी मशीन-जनित हो, लेकिन मानवीय गरिमा और सार्थक जीवन की कल्पना करने के लिए संघर्ष। हम सीधे माप और मूल्यांकन के तर्क से बहक जाते हैं, लेकिन यह भूल जाते हैं कि हर चीज को नहीं मापा जा सकता है।

संरचनात्मक असमानता स्वचालन के विश्लेषणात्मक अंधा कर रही है में वर्ग बैठता है।

डेटा विश्लेषण पर ओवररेलिअन कार्यात्मक रूप से उन प्रकार के सहसंबंधों को प्राथमिकता देता है जो रैखिक बीजगणित स्पॉटिंग में अच्छे होते हैं - लेकिन जटिल सिस्टम गतिकी से उत्पन्न होने वाले नहीं।

अब तक, पक्षपाती एल्गोरिदम एक अच्छी तरह से ज्ञात समस्या है। क्योंकि वे पिछले डेटा पर निर्भर हैं, वे खराब पैटर्न को कोडित करने के अधीन हैं, खराब डेटा संग्रह, सेवाओं की असमानतापूर्ण ऐतिहासिक वितरण (और इस तरह कम आय और अल्पसंख्यक आबादी की निगरानी), और पूर्व-बेक्ड धारणाओं के आधार पर। हम इस पूर्वाग्रह के सबूत को क्षेत्रों में स्वचालन प्रयासों के नस्लवादी और यौनवादी परिणामों में देख सकते हैं।

लेकिन मशीन सीखने में निष्पक्षता, जवाबदेही और पारदर्शिता शुरू करने पर ध्यान देने के साथ, हम अभी भी पेड़ों के लिए जंगल को देखने में असफल हो रहे हैं। विशेष रूप से, एल्गोरिदम में पूर्वाग्रह के लिए सही करने के प्रयास आमतौर पर संरचनात्मक असमानताओं के लिए खाते में विफल होते हैं। क्योंकि यह ऐतिहासिक डेटा से बाहर है और पैदा होता है, स्वचालन केवल मौजूदा पैटर्न के खांचे को गहरा करना जानता है, केवल उन चरों को मापता है जिन्हें माप के लिए अलग किया गया है और फिर अन्य मैट्रिक्स के साथ उनके संबंध के माध्यम से सार्थक बनाया गया है।

लेकिन यह सटीक रूप से संरचनात्मक पारिस्थितिकी तंत्र है जिसमें स्वचालन को तैनात किया जा रहा है कि अगर हम विश्लेषणात्मक उपकरणों के वादे को काटना चाहते हैं, तो हमें समस्याग्रस्त और पते की आवश्यकता होगी। वैधानिक रूप से सांख्यिकीय विश्लेषण के लिए प्रतिरोधी, जिस पानी में हम तैरते हैं - प्रभुत्व, विकास और उपभोग की विचारधाराओं, मौलिक मिथ्या द्वंद्वों, बड़े पैमाने पर अन्यताओं, सर्वव्यापी गलत सूचनाओं और पारिस्थितिक भाग्यवाद की कथाओं से भरा एक समृद्ध स्टू - कुछ ऐसा है जो हम किनारों को झलक सकते हैं। लेकिन दुर्लभ रूप से पार।

स्वचालन के साथ, अतिक्रमण प्रस्ताव पर नहीं है। अनुकूलन, हाँ। शमन, शायद। समाधान, नाम में ही। इसके बजाय, स्वचालन की फंतासी असाधारणता के लोकाचार और "इतिहास के अंत" के अभिमानी आकर्षण को वहन करती है। स्वचालन की फंतासी यथास्थिति की संरचनाओं में ताला लगाने के लिए एनालिटिक्स को तैनात करने का सुझाव देती है। यह "प्रगति" का एक विशेष दृष्टिकोण है। यह बहुत बेहतर हो सकता है, यह सुझाव देता है, जब तक कि बिजली और संसाधनों का उच्च-स्तरीय वितरण बहुत अधिक रहता है।

हेल्थकेयर में क्रांति का वादा करने वाले एल्गोरिदम को देखते हुए, शैनन मैटर्न लिखते हैं:

क्या अधिक है, अंध विश्वास है कि सर्वव्यापी डेटा संग्रह "खोजों कि हर किसी को फायदा होगा" को संदेह पैदा करेगा। बड़े पैमाने पर अनुभवजन्य अध्ययन स्वास्थ्य असमानताओं को मजबूत कर सकते हैं, खासकर जब जनसांख्यिकीय विश्लेषण विशिष्ट परिकल्पना या सैद्धांतिक ढांचे में नहीं होते हैं। नैतिकतावादी सेलिया फिशर का तर्क है कि मानव परियोजना जैसे अध्ययनों को स्पष्ट रूप से परिभाषित करने की आवश्यकता है कि "किस वर्ग, नस्ल, और संस्कृति का अर्थ है, यह ध्यान में रखते हुए कि कैसे इन परिभाषाओं को सामाजिक और राजनीतिक ताकतों द्वारा लगातार आकार और पुन: परिभाषित किया जाता है," और कुछ समूहों को कैसे हाशिए पर रखा गया है, यहां तक ​​कि चिकित्सा में प्रवचन और अभ्यास। शोधकर्ता, जो देखे गए सहसंबंधों के आधार पर निष्कर्ष निकालते हैं - अप्रकाशित और ऐतिहासिक नहीं - जोखिम को चलाते हैं, वह कहती हैं, "व्यवस्थागत राजनीतिक और संस्थागत स्वास्थ्य असमानताओं को बनाए रखने वाली नीतियों के बजाय हाशिए के समूहों में आनुवांशिक या सांस्कृतिक विघटन के लिए स्वास्थ्य समस्याओं को जिम्मेदार ठहराते हुए।" - शैनन मैटर्न, "कोडस्पेस में डेटाबॉडी"

स्वचालन प्रणाली और लोगों से दूर जवाबदेही के बोझ को हटा देता है।

स्वचालन के माध्यम से असीमित ख़ाली समय का मिथक पहले से ही गलत है।

एक स्वचालित दुनिया में, प्रक्रियाओं को उपयोगकर्ता के अनुभव में सुधार करने के लिए नहीं बल्कि लाभ मार्जिन बढ़ाने और / या मानव पूंजी व्यय को कम करने के लिए फिर से डिजाइन किया गया है।

लेकिन करेन लेवी के ट्रकिंग शो पर किए गए शोध के अनुसार, ऑटोमेशन इंसानों की जगह उतना नहीं लेता जितना कि यह उन पर आक्रमण करता है। एक हिंसक पूर्व साथी की तरह, यह शरीर का अंतरंग उपयोग करने और मन की बढ़ती पहुंच की मांग करते हुए सर्वेक्षण करता है, अतिक्रमण करता है, पॉलिस करता है और हेरफेर करता है।

हस्तक्षेप के बिना, पहले से ही हाशिये पर रहने वालों को और अधिक हाशिए पर रखा जाएगा। और जब ऑटोमेशन को यथास्थिति की सेवा में तैनात किया जाता है, तो मूल्य को निकाला जाता है और / या अदृश्य श्रम हर व्यक्ति से आवश्यक होता है जो स्वचालित सिस्टम के साथ बातचीत करता है।

रोगी अब समन्वयक और स्वयं की देखभाल का वकील है। उपभोग के चल रहे चक्र में उपभोक्ता सक्रिय रूप से उपभोग करता है। नागरिक अब अपने स्वयं के सत्य और अपने स्वयं के क्यूरेटर के मध्यस्थ हैं। सकल क्षेत्रों में, अदृश्य (और अवैतनिक) श्रम को अब उन प्रणालियों को नेविगेट करने के लिए आवश्यक है जिनमें हमें आंतरिक रूप से फंसाया जाता है, हमें पता चलता है - व्यक्ति - उपभोग और नागरिकता, और स्वास्थ्य और भलाई की खोज के कृत्यों में तेजी से जिम्मेदार और तेजी से घटित।

तटस्थ तकनीक जैसी कोई चीज नहीं।

स्वचालन प्रौद्योगिकी के भग्न पदानुक्रम में, अदृश्य मूल्य आपके द्वारा देखे जाने वाले हर जगह एम्बेडेड होते हैं।

मूल्य-नैतिक मूल्य हैं - प्रत्येक डिजाइन पसंद में, प्रत्येक कार्यान्वयन प्रक्रिया, प्रत्येक संगठनात्मक संस्कृति में परिवर्तन, और अंत उपयोगकर्ता निर्णय लेने पर हर प्रभाव में।

स्वचालन के "तकनीकी सुधार" या प्रौद्योगिकी के अपरिहार्य अनुप्रयोग के रूप में निर्धारण, ऑटोमेशन स्टैक में निहित मशीन लर्निंग एल्गोरिदम के पुराने-पुराने दार्शनिक और नैतिक आधारों को अस्पष्ट करता है, जो अक्सर कठिन और समावेशी बातचीत के बदले में ऑटो-पायलट पर चलता है। उन मानों के बारे में जो परिमाणीकरण और माप का विरोध करते हैं।

जब स्वचालन प्रौद्योगिकी की बात आती है, तो हमें कभी भी तटस्थता नहीं माननी चाहिए, अकेले सकारात्मक प्रगति करने दें। यह विशेष रूप से महत्वपूर्ण है जब सार्वजनिक क्षेत्र में डेटा एकीकरण और स्वचालन की बात आती है। सरकारी पारदर्शिता का समर्थन करने के लिए बनाए गए समान तकनीकी बुनियादी ढांचे को सामाजिक नियंत्रण के लिए आसानी से तैनात किया जा सकता है। समान न्यायिक परतें जो आपराधिक न्याय प्रणाली को और अधिक बनाने का वादा करती हैं, उनका उपयोग हाशिए के नागरिकों के साथ निजी जेलों को भरने के लिए भी किया जा सकता है। और वही निगरानी तंत्र जो सार्वजनिक सुरक्षा को बेहतर बनाने का वादा करता है, उसे नागरिकों की सेवाओं तक पहुंच को प्रतिबंधित करने के लिए जुटाया जा सकता है।

चीन अपनी सामाजिक क्रेडिट प्रणाली को बढ़ावा दे रहा है, जिसका शाब्दिक अर्थ है सरकार के वाक्यांश पर आधारित "एक बार अविश्वास, हमेशा प्रतिबंधित," सरकार में नागरिक विश्वास में सुधार करने के तरीके के रूप में। चीनी अधिकारियों ने पिछले साल कम से कम 36 देशों में समकक्षों से मुलाकात की, विशेष रूप से "नए मीडिया या सूचना प्रबंधन" (पढ़ें: नया नियंत्रण) के लिए अपने दृष्टिकोण को साझा करने के लिए। मेक्सिको में, जहां पहले से ही सिर्फ 2% नागरिकों का मानना ​​है कि वे एक पूर्ण लोकतंत्र में रह रहे हैं, जवाबदेही से आगे पारदर्शिता गति, इसके मद्देनजर न केवल सच्चाई, बल्कि निंदक और विघटन भी। ब्राजील में, सामाजिक सेवा वितरण को स्वचालित करने के लिए बनाई गई एक प्रसिद्ध और व्यापक सार्वजनिक एकीकृत डेटा प्रणाली को निजी क्षेत्र के रोजगार डेटा से जोड़ा जा रहा है, जैसे कि एक हार्डलाइनर कार्यालय लेता है जिसने सैन्य तानाशाही के बारे में रोमांटिक रूप से वैक्स किया है। केन्या में, सरकार ने प्रत्येक नागरिक के जीनोम और इयरलोब ज्यामिति को सूचीबद्ध करने के लिए निर्धारित किया है। और संयुक्त राज्य में, सार्वजनिक एकीकृत डेटा सिस्टम बनाया जा रहा है जो जल्द ही अधिकांश नागरिकों को छू जाएगा।

स्पष्ट होने के लिए, कई समर्पित सिविल सेवक जो हमारी सार्वजनिक सेवाओं का संचालन करते हैं, डेटा एकीकरण का सही स्वागत करते हैं; यहां तक ​​कि किसी की अपनी एजेंसी से वास्तविक समय के डेटा डैशबोर्ड तक पहुंच प्राप्त करना अभी भी कई जिलों में एक सम्मोहक संभावना है। लेकिन अनुसंधान बनाम डेटा के माध्यम से परिणामों में सुधार करने के लिए उपयोग किए जा रहे डेटा के बीच अलग-अलग मामले प्रबंधन, भविष्य कहनेवाला विश्लेषिकी, निर्णय-समर्थन और स्वचालित सेवा वितरण के लिए उपयोग किया जा रहा है। मुझे चिंता है कि तकनीकी कंपनियां सार्वजनिक क्षेत्र को स्वचालन की दृष्टि से बेच रही हैं जिनके उपकरण पूंजीवाद के मूल्यों को एम्बेड करते हैं, स्थिरता नहीं; दक्षता, इक्विटी नहीं; यथास्थिति, न्याय नहीं। और ध्यान दें, डिजाइन और कार्यान्वयन में कितनी भी अच्छी प्रथाओं का पालन नहीं किया जाता है (जैसा कि वे अल्लेग्नी काउंटी, पीए में एकीकृत डेटा सिस्टम में हैं), स्वचालन की हर कहानी के लिए कम से कम दो पक्ष हैं।

फ्लिकर पर डैनियल रेहान के सौजन्य से सभी चित्र

आपके द्वारा देखे जाने वाले प्रत्येक स्थान पर, स्वचालन की फंतासी अपने बीज बोने के लिए खरीद और उपजाऊ जमीन पा रही है। एंटरप्राइज़ टेक कंपनियों से आने वाले धमाकेदार प्रचार के बावजूद, यह सबसे अधिक चुपचाप, कपटी और रणनीतिक रूप से करता है।

प्रभावित समुदाय तब तक अनजान रह जाते हैं जब तक कि किसी छोटी-मोटी प्रक्रिया या उपयोगकर्ता के अनुभव के साथ संपर्क न हो जाए। विश्वविद्यालय IRBs चुपचाप लंबे समय तक चलने वाली चीज है, और फिर भी जहाज के लिए भीड़ में भूल जाते हैं। सिस्टम को एक संदर्भ से थोक उठाया जाता है, सफेद लेबल वाला और दूसरे में एयरड्रॉप किया जाता है। आधुनिकीकरण और प्रगति के वादे के आधार पर, हमारे नेता वाणिज्यिक ऑफ-द-शेल्फ सामाजिक नियंत्रण की खरीद के लिए प्रतिबद्ध हैं।

मैं इस बात पर जोर देना चाहता हूं कि इसमें से कोई भी डेटा एकीकरण, ग्राफ एनालिटिक्स या मशीन लर्निंग की निंदा नहीं करता है। ये एक किट में मूल्यवान उपकरण हैं जिसमें सामाजिक विज्ञान और हितधारक जुड़ाव भी शामिल होना चाहिए। लेकिन जिस संदर्भ में इन उपकरणों को तैनात किया जाता है वह पथ निर्भरता को निर्धारित करता है। इन उपकरणों को खरीदने और उनके उपयोग के बारे में कल्पना करने वाले व्यक्ति सावधानीपूर्वक जांच करते हैं। वे जिन व्यवसायिक मॉडल का समर्थन करते हैं, वे जो एम्बेडेड मान रखते हैं, वे व्यक्ति-केंद्रितता की डिग्री को दर्शाते हैं, जिस तरह से वे हितधारकों के बीच जिम्मेदारी को शिफ्ट करते हैं, और संरचनात्मक असमानताओं को वे लॉक-इन करने की धमकी देते हैं। और वर्तमान संदर्भ जिसमें स्वचालन उपकरण बेचे जाते हैं और तैनात किए जाते हैं, उनका गहरा दोष है।

सामुदायिक जुड़ाव, व्यक्ति-केंद्रित डिजाइन पद्धति और कार्यान्वयन दृष्टिकोण, कठोर और चल रही नैतिक समीक्षा, विकास प्रक्रियाओं में सामाजिक वैज्ञानिकों और कलाकारों का डिफ़ॉल्ट समावेश, एल्गोरिदमिक ऑडिटिंग और उपकरण में एम्बेडेड मूल्यों की स्पष्ट और समावेशी चर्चा (विशेष रूप से परिपक्व) पुनरीक्षण के लिए: नागरिकों और वाणिज्यिक / कानूनी प्रशासन तंत्रों के बीच असमान सामाजिक संकेंद्रण) यह सुनिश्चित करने की दिशा में एक लंबा रास्ता तय कर सकते हैं कि ऑटोमेशन अधिनायकवाद द्वारा नहीं चखा जा सकता है, लेकिन अगर हम इस सेल्फ ड्राइविंग कार के पहिए पर सोते हैं तो नहीं।

सपने के केंद्र में कुछ सड़ा हुआ है, और हमें तत्काल जागने की आवश्यकता है - इससे पहले कि हम अपने अतीत के टूटे वादों को अपने भविष्य के बहुत कपड़े में स्वचालित कर दें।