OpenAI’ın, ChatGPT’yi travmatik içeriklerden temizlemek için Kenyalı işçileri saatte 2 dolardan az bir ücretle çalıştırdığı ortaya çıktı.
TIME’da yayımlanan araştırma haberine göre diyalog konusunda uzmanlaşmış bir prototip yapay zeka sohbet robotu olan ChatGPT’yi geliştiren OpenAI, Chatbot kullanımını daha güvenli hale getirmek için on binlerce satırlık metinleri tarayarak filtreleyen Kenyalı işçilere saatte 2 dolardan az ödeme yapıyor.
Bu habere göre, Kenyalı işçilere ChatGPT’nin eğitim veri setindeki bir görev olan zararlı verileri etiketleme ve filtreleme görevi verildi. Bu görev temelinde işçiler, çocuklara yönelik cinsel istismar, hayvanlarla cinsel ilişki, cinayet, intihar, işkence, kendine zarar verme ve ensest gibi ‘iş için güvenli olmayan’ içeriğin açık betimlemeli detaylarını okumaya zorlandılar.
Makine öğrenimi destekli bir sohbet robotu olan ve OpenAI tarafından 2022’nin Kasım ayı sonunda piyasaya sürülen ChatGPT’nin popülerliği artırıyor. Uygulamanın gelişmiş yazma becerilerinden etkilenen milyonlarca insan, ChatGPT’yi haber içeriklerinden şarkılar yazmaya kadar çeşitli amaçlar için kullandı. Ancak bu bot hep böyle kıvrak dilli değildi. Bu uygulamanın öncülü olan GPT-3, genellikle cinsiyetçi, şiddet içeren ve ırkçı metinler üretiyordu, çünkü model milyarlarca internet sayfasından kazınmış bir veri kümesi üzerinden eğitilmişti. OpenAI, ChatGPT’yi başlatmak için veri kümesindeki tüm zararlı dili hızlıca filtreleyecek bir yola ihtiyaç duyuyordu.
OpenAI, ChatGPT’ye yönelik bir filtreleme aracını veriyle besleyebilecek şekilde zararlı içeriği tespit etmek ve etiketlemek için gelişmekte olan ülkelere “etik” ve “saygın dijital çalışma” imkanı sağladığını iddia eden San Francisco merkezli bir veri etiketleme şirketi olan Sama ile ortaklık kurdu. Böylelikle Sama, OpenAI adına çalışması için Kenya’da veri etiketleyen insanları işe aldı ve Chatbot‘u genel kullanım için güvenli hale getirmede önemli bir rol oynadı.
ChatGPT’nin oluşturulmasındaki temel rollerine rağmen işçiler, zorlu koşullar ve düşük ücretlerle karşı karşıya kaldı. OpenAI için metin okumaktan ve etiketlemekten sorumlu Kenyalı bir işçi, TIME’a “Küçük bir çocuğun eşliğinde bir köpeğe tecavüz eden bir erkeğin açık betimlemeli tasvirini okuduktan sonra tekrarlı imgeler gördüğünü” söyledi. TIME’ın haberine göre işçiler, kıdeme ve performansa bağlı olarak, evde saatte 1,32 ila 2 dolar arasında ücret aldılar.
Sama çalışanı yaşadıklarını TIME’a, “Bu bir işkenceydi. Bütün hafta boyunca bunun gibi bir sürü ifade okuyorsunuz. Artık cuma günü, o resmi düşünmekten rahatsız oluyorsunuz” ifadeleriyle anlattı.
Yapay zeka inovasyon modelinin başka ülkelerdeki düşük ücretli işçilerle beslendiği, başka raporlar temelinde de biliniyor. Teknoloji şirketleri, yapay zeka araçlarının tam anlamıyla çalıştığı ve kendi kendine yeterli olduğu yanılsamasını sürdürmek için düzenli olarak on binlerce işçiyi işe alıyor. Halbuki yapay zeka araçları hala fazlasıyla insan moderasyonuna ve gelişimine bağlı. Yapay zeka etiği araştırmacıları, Küresel Güney’in ‘yapay zeka boru hattı’na dahil edilmesinin, Küresel Kuzey ve Güney arasındaki sömürgeci istismarı ve dengesizlik mirasını sürdürdüğünü ifade ediyor.
Sama, kısmen işin travmatik yapısı nedeniyle, kısmen de TIME’ın 14 Şubat 2022’de Sama’nın Meta ile çalışması hakkında bir araştırma raporu yayımlaması nedeniyle, sözleşme süresinden sekiz ay önce, Şubat 2022’de, OpenAI için çalışmaya son verdi. TIME raporunda, Sama’da Meta için projeler üzerinde çalışan içerik moderatörlerinin, saati 1,50 dolara infaz, tecavüz ve çocuk istismarı görüntülerini ve videolarını izledikten sonra travma yaşadıkları belirtilmişti.
TIME’daki araştırma yazısından üç gün sonra, Sama CEO’su Wendy Gonzalez, Slack’te bir grup üst düzey yöneticiye mesaj göndererek “OpenAI çalışmasını sonlandıracağız” dedi. Sama, ondan bir hafta önce de Meta’ya yönelik çalışmalarını durduracağını duyurmuştu.
Ancak bu kararlar birçok Sama işçisini işsiz bıraktı veya başka projelerde daha düşük ücretlerle çalışma mecburiyetiyle karşı karşıya kaldılar. Bir Sama çalışanı, TIME’a yaşadıkları durumu şöyle ifade etti:
Bize [Sama] çalışanlarını bu tür [tehlikeli] içeriğe maruz bırakmak istemedikleri söylendi. Bunun, bizim için ailelerimizi geçindirmenin bir yolu olduğunu ilettik.
Mekanik ve travmaya yol açan görevler için işçilerin dış kaynaktan temin edilmesi, büyük teknoloji şirketlerine birçok yönden fayda sağlıyor. Bu yolla şirketler, ucuz işgücü kullanarak finansal birikim yapabiliyor, çalışma koşulları üzerinde katı hukuki yaptırımlardan kaçabiliyor ve “yenilikçi” araçları ile bunların ardındaki işçiler arasında mesafe yaratıyor. Veri etiketleme şirketleri de bu yönde bir dengesizlik sergiliyor. Sama’nın merkezi San Francisco’da ve şirket, 2022’de tahmini olarak 19 milyon dolar kazanırken, Kenya’daki işçileri saatte en fazla 2 dolar kazanıyor.
Yapay zeka uzmanları, yeniliğe daha az, insanları sürece etik olarak nasıl dahil edeceklerine ise daha fazla odaklanmak için makine öğrenimi sistemlerinin temelini oluşturan insan emeğini gün ışığına çıkarmak istiyor. Bu, güç dengesizliklerinin farkına varmayı, döngüye dahil olan insanlar hakkında daha fazla şeffaflık sağlamayı, çalışma koşullarını iyileştirmeyi ve çalışanlar için veri etiketleme ve denetlemenin ötesinde imkanlar yaratmayı içeriyor. ChatGPT’yi oluşturmak için işçilerin sömürülmesi, bu aracın sihirden ve albeniden ne kadar uzak olduğunu bize hatırlatıyor ve şunu düşündürtüyor: ChatGPT’nin yeniliğini gerçekten ne kadar övmeliyiz?
