Kolter terutama memfokuskan penelitiannya pada keamanan AI. Hal ini menjadikannya direktur teknis yang sangat berharga untuk (tata kelola) OpenAI, tulis OpenAI dalam postingan di blog, seperti dikutip TechCrunch, Kamis (8/8) waktu setempat.
Keamanan AI telah menjadi isu besar di perusahaan ini. Penunjukan Kolter terjadi beberapa bulan setelah beberapa eksekutif dan karyawan OpenAI yang berfokus pada keamanan, termasuk salah satu pendiri Ilya Sutskever, meninggalkan perusahaan.
Baca juga: Microsoft mundur dari posisi pengawas di dewan direksi OpenAI
Baca juga: Sam Altman kembali bergabung dengan dewan direksi OpenAI
Beberapa dari pengunduran diri ini berasal dari mantan tim “Superalignment” Sutskever, yang fokus pada cara mengatur sistem AI "superintelligent," tetapi menurut sumber, mereka tidak diberikan akses ke sumber daya komputasi yang awalnya dijanjikan.
Kolter juga akan bergabung dengan Komite Keamanan dan Keamanan Dewan OpenAI bersama direktur Bret Taylor, Adam D’Angelo, Paul Nakasone, Nicole Seligman, CEO Sam Altman, dan ahli teknis OpenAI.
Komite ini bertanggung jawab memberikan rekomendasi terkait keputusan keamanan dan keselamatan untuk semua proyek OpenAI. Tetapi, seperti catatan TechCrunch, komite ini sebagian besar terdiri dari orang dalam, yang telah menimbulkan pertanyaan di kalangan pengamat tentang efektivitasnya.
“Zico menambahkan pemahaman teknis yang mendalam dan perspektif tentang keamanan dan ketahanan AI yang akan membantu kami memastikan kecerdasan buatan umum memberikan manfaat bagi seluruh umat manusia," kata Ketua Dewan OpenAI Bret Taylor.
Kolter, yang sebelumnya menjabat sebagai kepala ilmuwan data di C3.ai, menyelesaikan gelar PhD-nya dalam ilmu komputer di Universitas Stanford pada tahun 2010, diikuti dengan postdoctoral fellowship di MIT dari tahun 2010 hingga 2012.
Penelitiannya mencakup demonstrasi potensi untuk melewati perlindungan AI yang ada melalui teknik optimasi otomatis.
Kolter juga tidak asing dengan kolaborasi industri, saat ini menjabat sebagai “ahli utama” di Bosch dan penasihat teknis utama di startup AI Gray Swan. Demikian disiarkan TechCrunch, Kamis (8/8) waktu setempat.
Baca juga: OpenAI bagikan akses model AI terbaru kepada lembaga Amerika Serikat
Baca juga: OpenAI dilaporkan sedang menggarap model AI lebih canggih
Baca juga: Mantan kepala ilmuwan OpenAI luncurkan perusahaan AI baru
Penerjemah: Fathur Rochman
Editor: Zita Meirina
Copyright © ANTARA 2024
