OpenAI, ChatGPT kullanıcılarının gerçek sohbetlerini ve verilerini inceleyip modelin yanıtlarını iyileştirmeye yardımcı olan geniş bir sözleşmeli çalışan ordusuna sahip. Bu kişilerin görevi modele "insani bir dokunuş" katmak. Ancak 404 Media'nın ulaştığı çok sayıda kaynağa göre, bu işi yapması gereken kişilerden bazıları aslında modeli eğitmek için yine yapay zekadan yardım alıyordu. https://www.404media.co/people-training-openais-ai-fired-for-using-ai-to-train-the-ai/
Haberde bunun ironik bir tarafına da dikkat çekiliyor: OpenAI'nin iş yerlerinde insanları yapay zeka kullanmaya teşvik eden bir şirket kültürü var, ama modelini eğiten yüklenici firmalar tam tersine bu davranışı yasaklıyor ve yakaladıklarında işten çıkarıyor.
"Model çöküşü" riski
Habere göre bazı yapay zeka modelleri, yine yapay zeka tarafından üretilmiş metinlerle eğitildikçe kalitesi düşen "model çöküşü" (model collapse) denen sorunu şimdiden gösteriyor. Bu sorunu önlemek için istihdam edilen incelemecilerin bir kısmının, işlerini yine yapay zeka çıktılarıyla yapması durumu daha da katmerli hale getiriyor.
Bir yüklenici, yapay zeka kullanımının "her zaman" görüldüğünü ve bu yüzden "sürekli" işten çıkarma yaşandığını, bunun neredeyse tek başına kovulma sebebi olduğunu söyledi. Aynı kişi, binlerce kişilik gruplarda "yakalanan çok sayıda" kişi bulunduğunu belirtti.
Şirket talimatları: "AI kullandığınızı şüphelendiğinizi söylemeyin"
404 Media'nın ulaştığı iç belgelerden birine göre, diğer yüklenicilerin çalışmalarını denetlemekle görevli kişilere şu talimat veriliyor: Yapay zeka tespit araçları (GPTZero gibi) veya Grammarly dahil hiçbir yapay zeka aracı kullanılmayacak, çünkü bu araçlar güvenilir değil. Ayrıca değerlendirilen kişilere neden şüphelenildiği söylenmeyecek — aksi halde kendilerini gizlemeleri kolaylaşır. Denetleyicilerden tek bir ipucuna değil, genel örüntüye bakmaları isteniyor.
Nasıl yakalanıyorlar?
Tekrar eden kelimeler, aşırı em-dash (—) kullanımı gibi "yapay zeka tarzı" noktalama işaretleri ve işin anormal derecede hızlı tamamlanması, tespit için kullanılan başlıca işaretler arasında sayılıyor. Yüklenicilerin birbirine danıştığı Slack kanallarında sık sık "Bu yapay zeka mı?" sorusu soruluyor ve genellikle cevap "evet" oluyor.
