Birleşmiş Milletler'in AI yönetimi tartışmalarında seçimlerin gözden kaçırılması, veri güvenliği ve oy hakkı açısından ciddi riskler taşıyor. Hindistan'da 5,5 milyon seçmenin kayıtlarının silinmesi ve 93% başarısızlık oranıyla çalışan bir makine öğrenimi algoritmasının kullanılması, seçimlerde yapay zekanın etkisini gösteren bir örnek.
Seçim teknolojilerinin özel sektör tarafından tasarlanması ve barındırılması, seçim otoritesinin kontrolünden çıkması riski taşıyor. Oycu kayıtları, biyometrik cihazlar ve sonuç yönetimi yazılımları gibi sistemlerin yapay zeka özellikleriyle donatılması, veri güvenliği ve oy hakkı açısından ciddi riskler oluşturuyor.
Seçimlerde yapay zekanın kullanımının önüne geçmek için, verilerin kim tarafından kontrol edildiği, sistemlerin kim tarafından denetlendiği ve makine öğrenimi modellerinin etkilerinden kimlerin sorumlu olduğu gibi soruların yanıtlanması gerekiyor.