Apakah Anda berencana menggunakan kecerdasan buatan untuk menjalankan pemerintah Elon Musk AS? Para ahli mengatakan bahwa itu tampaknya rencananya, tetapi ini adalah “ide yang sangat buruk.”
Musk telah menghilangkan puluhan ribu pegawai pemerintah federal melalui Wing Kapasitas Pemerintah (Doge), dan anggota pekerja lainnya telah diminta untuk mengirim email satu minggu ke departemen selama seminggu, yang memiliki lima poin peluru yang menggambarkan apa yang telah mereka capai minggu itu.
Karena tidak ada keraguan dalam banjir dengan ratusan ribu email jenis ini, itu bergantung pada kecerdasan buatan untuk memproses respons musk dan membantu memutuskan siapa yang mendapat pekerjaan. Beberapa rencana itu juga menggantikan banyak pekerja pemerintah dengan sistem AI.
Belum jelas bagaimana sistem AI ini atau bagaimana mereka bekerja -menuntut bahwa Demokrat di Kongres Amerika Serikat diisi dengan Demokrat -tetapi para ahli memperingatkan bahwa menggunakan AI di pemerintah federal tanpa tes dan verifikasi yang kuat dari alat -alat ini.
“Untuk menggunakan alat AI secara bertanggung jawab, mereka harus dirancang untuk fokus pada tujuan tertentu. Harus diuji dan diverifikasi. Tidak jelas apakah sesuatu akan terjadi di sini, ”kata Corey, profesor dan profesor ilmu politik di University of Pennsylvania.
Koglias mengatakan bahwa jika AI digunakan untuk membuat keputusan tentang siapa yang harus dibatalkan dari pekerjaan mereka, ia akan “sangat ragu” tentang kebijakan itu. Dia mengatakan bahwa AI memiliki kemampuan yang sangat nyata untuk membuat kesalahan dengan bias dan potensi masalah lainnya.
“Ini ide yang sangat buruk. “Kita harus percaya bahwa AI dilatih dalam keputusan seperti itu (termasuk bagaimana itu dilatih dan algoritma yang mendasari), keputusan seperti itu, atau mengapa itu dapat diandalkan,” kata Profesor Shobita Parthasarati dari kebijakan publik di Universitas Michigan.
Kekhawatiran itu tampaknya tidak menjadi penasihat dekat pemerintah saat ini, terutama dengan pengusaha miliarder Kasturi dan Presiden AS Donald Trump.
Misalnya, Departemen Luar Negeri AS berencana untuk menggunakan AI untuk memindai akun media sosial warga asing dalam upaya menarik visa mereka. Pemerintah AS belum transparan tentang cara kerja sistem ini.
Bahaya yang tidak dikenal
“Administrasi Trump benar -benar tertarik untuk melanjutkan AI di semua pengeluaran, dan saya ingin melihat penggunaan AI yang adil, adil dan setara,” kata Hilke Shelman, seorang ahli profesor jurnalisme dan kecerdasan buatan di Universitas New York. “Mungkin ada terlalu banyak bahaya untuk tidak dikenal.”
Pakar AI mengatakan bahwa ada banyak cara untuk menggunakan AI pemerintah, itulah sebabnya perlu diadopsi dengan hati -hati dan hati nurani. Koglias mengatakan bahwa pemerintah di seluruh dunia, termasuk Belanda dan Inggris, telah menderita masalah dengan AI yang diterapkan dengan buruk, yang menunjukkan kesalahan atau bias, dan sebagai hasilnya mereka telah salah mengartikan manfaat kesejahteraan penduduk yang diperlukan.
Di AS, Negara Bagian Michigan memiliki masalah dengan AI, yang telah digunakan untuk menemukan penipuan dalam sistem penganggurannya, ketika ribuan kasus penipuan salah diartikan. Banyak manfaat yang menurun telah diperketat, termasuk beberapa hukuman dan tuduhan penipuan. Orang -orang ditangkap dan mengajukan kebangkrutan. Lima tahun kemudian, negara setuju bahwa sistem itu rusak dan setelah setahun kemudian berakhir dengan pembayaran M1 21 juta kepada penduduk yang disalahpahami bahwa itu telah ditipu.
“Sebagian besar waktu, membeli dan mengimplementasikan teknologi ini, pihak berwenang tahu bagaimana mereka bekerja, tahu sedikit tentang bias dan keterbatasan dan kekurangan mereka,” kata Parthasarati. “Berpenghasilan rendah dan sebaliknya kelas bawah memiliki lebih banyak hubungan dengan pemerintah melalui layanan sosial (seperti tunjangan pengangguran, perawatan hewan peliharaan, penegakan hukum), mereka paling dipengaruhi oleh AI yang bermasalah.”
Pemerintah AI telah menyebabkan masalah di pengadilan untuk memutuskan di departemen kelayakan atau kepolisian ketika seseorang berusaha untuk mentolerir di mana kejahatan itu.
Shelman mengatakan bahwa AI, yang digunakan oleh departemen kepolisian, biasanya melatih data historis dari departemen tersebut, dan bahwa AI telah lama dibandingkan dengan rekomendasi kelas berwarna.
AI tidak memiliki apa pun untuk dimengerti
Salah satu masalah dalam menggunakan AI untuk menggantikan pekerja di pemerintah federal adalah bahwa ada banyak jenis pekerjaan yang membutuhkan keterampilan dan pengetahuan khusus dalam pemerintahan. Orang IT di Departemen Kehakiman mungkin memiliki pekerjaan yang sangat berbeda dari satu sama lain di Departemen Pertanian, misalnya, meskipun memiliki hak yang sama untuk mereka. Oleh karena itu, program AI juga harus lebih terlatih untuk melakukan pekerjaan moderat dalam mengganti pekerja manusia.
“Saya tidak berpikir Anda dapat secara acak mengurangi pekerjaan orang, dan kemudian (menggantinya dengan AI apa pun),” kata Koglias. “Tugas orang -orang itu sangat istimewa dan spesifik.”
Shelman mengatakan Anda dapat menggunakan AI untuk membuat bagian dari pekerjaan seseorang yang membosankan atau diulang, tetapi Anda tidak dapat sepenuhnya menggantikan satu sama lain. Secara teori mungkin jika Anda menghabiskan waktu bertahun -tahun untuk mengembangkan alat AI yang tepat untuk melakukan banyak pekerjaan, yang merupakan pekerjaan yang sangat sulit dan bukan apa yang dilakukan pemerintah saat ini.
“Para pekerja ini memiliki pemahaman yang halus tentang keahlian dan masalah nyata, yang AI tidak melakukan AI, pada kenyataannya,” memahami “,” ini adalah penggunaan metode komputasi untuk menemukan pola berdasarkan data historis. Oleh karena itu ia memiliki tujuan terbatas dan juga memperkuat bias historis. “
Mantan Presiden AS Joe Biden Administration Dikeluarkan Pada tahun 2023, sebuah perintah eksekutif difokuskan pada bagaimana penggunaan AI yang bertanggung jawab dan bagaimana AI akan diuji dan dikonfirmasi, tetapi pesanan dibatalkan pada bulan Januari. Shelman mengatakan para peneliti dapat memahami bagaimana AI digunakan secara bertanggung jawab atau bagaimana AI digunakan dalam pemerintahan.
Semua ini, jika AI dikembangkan secara bertanggung jawab, itu bisa sangat membantu. AI dapat mengotomatisasi tugas berulang sehingga pekerja dapat fokus pada hal -hal yang lebih penting atau untuk menyelesaikan masalah yang mereka perjuangkan. Tetapi harus diberikan waktu untuk berjalan dengan cara yang benar.
“Kami tidak dapat menggunakan alat AI dengan bijak,” kata Koglias. “Tetapi masukan dan algoritma publik yang tepat sebenarnya bekerja pada bagaimana pemerintah mencoba melakukan sesuatu dengan cepat dan cepat tanpa sertifikasi dan verifikasi sepenuhnya.”
