“أرحب بأتباعنا الرقميين”: تحذير من الداخل في وادي السيليكون بشأن الخوارزميات – أثناء احتضانها | الكتب الاسترالية
تختبئ المنازل خلف بقع من الغابات المطيرة شبه الاستوائية في الضواحي الغربية لمدينة بريسبان؛ ترعى الخيول في المراعي وعلامات الطريق تحذر من الغزلان والكنغر.
تقع ضاحية أنستيد بين منعطف في النهر وسفوح سلسلة جبال داجيلار، وقد تبدو موطنًا غير مناسب لأستاذ إدارة الأعمال البولندي المولد الذي يعتقد أننا يجب أن نحتضن عصر الذكاء الاصطناعي.
ومع ذلك، ليس كل شيء كما يبدو في منزل ماريك كووالكيفيتش بين أشجار الصمغ.
يقول من الشرفة المطلة على مساحته: “عندما انتقلت إلى هنا من وادي السيليكون، كان أطفالي في الخامسة من العمر تقريبا ولم تكن لديهم أي فكرة عن جهاز iPad”. “هناك العالم المليء بالتكنولوجيا الذي أتواجد فيه من الساعة 9 مساءً إلى الساعة 5 مساءً، ثم هناك – على السطح – عالم أقل ثراءً بالتكنولوجيا.”
إنه أول يوم اثنين من شهر مارس، وعلى بعد ساعات من إطلاق Kowalkiewicz “اقتصاد الخوارزميات: الذكاء الاصطناعي وصعود التوابع الرقمية”. في كتابه الأول، يزعم البروفيسور في جامعة كوينزلاند للتكنولوجيا أن العصر الجديد المدعوم جزئيا بعناصر غير بشرية كان يعيد تشكيل اقتصادنا ومجتمعنا تدريجيا لسنوات ــ بطرق ليست مرئية دائما وغير مفهومة إلا قليلا.
وحتى وقت قريب، يعترف كووالكيفيتش بأنه حتى هو ــ المدير المؤسس لمركز أبحاث الاقتصاد الرقمي بجامعة كوينزلاند للتكنولوجيا ــ لم يتمكن من رؤية الأمر على حقيقته. ثم اعتقد أنه لا يمكن اعتبار الخوارزميات بمثابة عوامل في عالمنا، فهي مجرد أجزاء من التعليمات البرمجية تتبع التعليمات البشرية.
“لقد كنت مخطئا” ، يعترف في الكتاب.
بمجرد أن فتح عينيه على هذا الشكل الجديد من القوة، رأى كووالكيفيتش أنه كان يؤثر على حياتنا لسنوات، بطرق تراوحت بين العبثية، والمتجاوزة، والمرعبة. وقد أدرك، وهو رجل متفائل للغاية في مجال التكنولوجيا، أنه إذا أردنا ضمان مساهمة الخوارزميات في عالم أفضل وليس مستقبل بائس، فإن “دور الناس أصبح أكثر أهمية من أي وقت مضى”.
في هذا الاقتصاد الجديد “الغريب” الذي يصفه كووالكيفيتش، والذي قبلناه بشكل ثابت كواقع، يقوم مديرو الخوارزميات بتعيين وظائف لسائقي سيارات الأجرة، وفي الأساس، يطردون أولئك الذين حصلوا على تقييمات سيئة. استقل إحدى سيارات الأجرة الآلية في سان فرانسيسكو وستُقاد بواسطة خوارزمية. تقدم بطلب للحصول على وظيفة، وقد يتم فحص سيرتك الذاتية بواسطة خوارزمية. وهذه مجرد البداية – صناديق رأس المال الاستثماري الجديدة لتداول العملات المشفرة، من الرئيس التنفيذي إلى الأسفل، “بلا إنسانية تمامًا”.
ولا يخشى كووالكيفيتش أن تحل التكنولوجيا محلنا. ويجادل بأننا بدلا من ذلك نعيش في “عصر التعزيز” الذي بزغ فجره. وفي حين كان وصول الإنترنت في التسعينيات والعقد الأول من القرن الحادي والعشرين إيذاناً ببدء “عصر الرقمنة” – “اقتصاد الأشخاص” حيث يستطيع الأفراد التنافس ضد الشركات – يتم اليوم تمكين عامل جديد: الخوارزمية. ولكن البشر قادرون على الاحتفاظ بقوتنا وتعزيزها ــ شريطة أن نتعلم كيفية تأكيد قوتنا.
في الواقع، سوف يتنافس في وقت لاحق من ذلك المساء – حيث سيمشي أمام جمهور يبلغ حوالي 100 شخص في حفل إطلاق كتابه في مركز كوينزلاند للذكاء الاصطناعي في منطقة الملهى الليلي في وادي فورتيتيود، مرتديًا حذاء Nike ذو العلامة التجارية “مينيون أصفر”، وسراويل جينز، وتيشيرت وسترة ضيقة – وبدلا من الخوف من اقتصاد الخوارزميات، أصبحت الشركات والأفراد الأذكياء الآن قادرين على استحضار أقنان “فوق البشر” حسب رغبتهم.
يقول كووالكيفيتش وسط التصفيق: “أنا شخصياً أرحب بأتباعنا الرقميين”.
ببجانب أخدود مليئ بالأعشاب عند حدود مساحة Anstead في Kowalkiewicz، يجلس مخلوق القرفصاء. من مسافة بعيدة، يمكن أن يكون الومبت. يطلق Kowalkiewicz على جزازة العشب الآلية هذه اسم “بولت”، وهو أمر مثير للسخرية إلى حد ما. على الرغم من أنه مكهرب، إلا أنه ليس يوسين.
روبوت منظف يجوب حوض السباحة. في الداخل، يقوم “المصد 1″ و”المصد 2” – مثل عصا مكنسة غوته المسحورة – بمسح الأرضيات الخشبية. تضاء الأضواء عندما يدخل Kowalkiewicz إلى الغرفة.
ويقول: “في اللحظة التي نغادر فيها المنزل، يبدأ المنزل في الانشغال – وتخرج جميع الروبوتات”. “روبوتات تتحرك، روبوتات تراقب، روبوتات تستمع.”
يقول كووالكيفيتش إن الروبوتات عبارة عن خوارزميات مجسدة. على الرغم من أنه ربما ليس بالقدر الذي فعله كووالكيفيتش، فقد قام معظمنا بدعوة الروبوتات والخوارزميات إلى منازلنا لسنوات عديدة حتى الآن وهي تشكل نوعًا من ورق الحائط. لن ندرك أن الخوارزميات ذات القوة تدور في كل مكان حولنا إلا بعد أن نصطدم بها في البرية.
حتى أنهم قبضوا على Kowalkiewicz على حين غرة. انزلق Kowalkiewicz عبر المسار الذي يمر عبر غابة Moggill القريبة في أمسية رطبة وشتوية. وبسرعة أكبر من أن يتمكن من تقييم إصاباته، قرر “التابع الرقمي” الموجود في معصمه أن السقوط كان خطيرًا بدرجة كافية لتنبيه زوجته إذا لم يتمكن من الاستجابة في غضون 20 ثانية. كان Kowalkiewicz على ما يرام وألغى المكالمة.
كتاب كووالكيفيتش مليء بالحكايات عن مثل هذه المواجهات مع الخوارزميات – على الرغم من أنها ليست كلها خيرة.
بعضها يفتقر إلى الكفاءة إلى حد مثير للسخرية، مثل “حرب العطاءات المضحكة” في عام 2011 بين الخوارزميات المتنافسة، والتي شهدت محاولة أحدهم بيع – دون جدوى – نسخة من كتاب علم الأحياء عن الذباب على أمازون مقابل أكثر من 23.6 مليون دولار.
تم توثيق التأثيرات الأخرى الأكثر شرًا للخوارزميات في العالم الحقيقي بشكل جيد. في الولايات المتحدة، تم دهس المشاة بواسطة سيارات أجرة آلية؛ حُرم السجناء من الكفالة بناءً على نصيحة برمجية جزئيًا؛ وفي أستراليا، تتم ملاحقة متلقي الرعاية الاجتماعية بشكل غير صحيح وغير قانوني من قبل أداة تحصيل الديون الخوارزمية التي أصبحت تعرف باسم “الديون الآلية”. في المملكة المتحدة، خرج الطلاب إلى الشوارع في عام 2020 بعد حرمانهم من الأماكن في الجامعات بسبب حسابات التوابع الرقمية – وكانت هتافاتهم “اللعنة على الخوارزمية” بمثابة “لحظة حاسمة” لكوالكيفيتش ومصدر إلهام لكتابه.
بالنسبة لعشاق التكنولوجيا الذين لديهم خلفية في تطوير البرمجيات، بدا تشويه سمعة الطلاب لأحد البرامج أمرًا مشوشًا – كانت الخوارزمية ببساطة تتبع تعليمات المبرمجين البشريين. لقد كان ذلك يعني ضمنيًا نوعًا من الوكالة التي رفضها كووالكيفيتش في البداية.
نعم، كانت الخوارزمية تتبع التعليمات البشرية ببساطة، لكن مستوى استقلاليتها يعني أن القيام بذلك كان له عواقب في العالم الحقيقي “غير متوقعة” و”غير عادلة” حتى في نظر مبتكريها. هنا، أدرك كووالكيفيتش أن هناك نوعًا جديدًا من الوكالة، لا ينبغي تركه لأجهزته الخاصة.
كتاب Kowalkiewicz موجه نحو الشركات ورجال الأعمال ويتحدث عن كيفية جمع الخوارزميات لصالحهم.
ولكن في حين أنه يعتبر إلى حد كبير دليلا لكسب المال في الاقتصاد الجديد، فإنه يناشدنا أيضا ألا نسمح له “بالخروج عن نطاق السيطرة”. ويرى أن المفتاح إلى ذلك هو تأكيد الفاعلية البشرية من خلال محو الأمية الرقمية.
“بدلاً من التوقف [generative] تجارب الذكاء الاصطناعي، نحن بحاجة لبدء تعليم GenAI.
يقول كووالكيفيتش إن ما يوحد العديد من اللقاءات المشوهة والخبيثة بين البشر والخوارزميات هو سوء فهمنا لما يمكنهم فعله.
الخوارزمية عبارة عن مجموعة من التعليمات خطوة بخطوة – “مثل الوصفة” للكمبيوتر. في حين أن الخوارزمية قد تكون جيدة جدًا، وحتى “خارقة” في وظيفتها ضمن تلك المعايير المحددة، فإن هؤلاء التوابع يحتاجون إلى عقل بشري أكثر قدرة على التكيف لمساعدتهم على التغلب على التحديات غير المتوقعة.
يكتب كووالكيفيتش أن المرونة والتفسير هي مهارات “لا يمكن اختصارها بسهولة إلى قواعد مشفرة”، وكذلك هي المجالات التي يمكن للبشر أن يتفوق فيها على الخوارزميات – في المستقبل “المتوقع”.
عند إطلاق كتابه، سُئل كووالكيفيتش عن كيفية تطوير هذه المهارات. يجيب: العب: جرب التكنولوجيا الجديدة، واستغل قوتها واكتشف عيوبها.
ويقول: “لهذا السبب بالضبط لدي الكثير من الروبوتات في المنزل، فبعضها عديم الفائدة على الإطلاق”. “بعضها… يجعلني أقضي وقتًا أطول في إصلاحها والتعامل معها، مما يوفر وقتي بالفعل. ولكن لا توجد طريقة أخرى”.
يجب على Kowalkiewicz إنقاذ “Bolt” كل بضعة أيام عندما يعلق على فرع ساقط، ويجب عليه كل بضع سنوات استبدال الكابلات الأرضية التي تحدد حدوده، خشية أن تختفي جزازة العشب الآلية في البرية. وكما هو الحال مع التوابع في سلسلة الرسوم المتحركة التي يستمد منها كووالكيفيتش الإلهام، تتطلب الخوارزميات إشرافًا بشريًا مستمرًا.
“يريد التوابع أن يكونوا مفيدين، ويريدون العمل على مدار الساعة طوال أيام الأسبوع، وهم مليئون بالطاقة، أليس كذلك؟” هو يقول.
“لكنك تنظر بعيدًا لمدة نصف يوم ويبدأون في إحداث الفوضى”.
