OpenAI mendirikan jawatankuasa keselamatan sambil memulakan latihan model kecerdasan buatan terkini
OpenAI mengatakan bahawa ia sedang menubuhkan jawatankuasa keselamatan dan keselamatan baru dan telah memulakan latihan model kecerdasan buatan baru untuk menggantikan sistem GPT-4 yang mendasari bot sembang ChatGPT-nya.
Startup San Francisco itu berkata dalam catatan blog Selasa bahawa jawatankuasa itu akan memberi nasihat kepada papan penuh pada "keputusan keselamatan dan keselamatan penting" untuk projek dan operasinya.
Jawatankuasa keselamatan ini tiba pada saat perdebatan berputar di sekeliling keselamatan kecerdasan buatan di syarikat itu yang terdorong ke sorotan setelah seorang penyelidik, Jan Leike, meletakkan jawatan dan melancarkan kritikan terhadap OpenAI kerana membiarkan keselamatan "diambil ringan oleh produk bersinar."
OpenAI mengatakan bahawa ia "baru-baru ini telah memulakan latihan model sempadan seterusnya" dan model kecerdasan buatannya memimpin industri dalam kemampuan dan keselamatan, walaupun tidak ada sebutan kepada kontroversi tersebut. "Kami menyambut dengan rasa hormat debat yang berani pada saat penting ini," kata syarikat tersebut.
Model AI adalah sistem ramalan yang dilatih atas set data besar untuk menghasilkan teks, imej, video dan perbualan manusia seperti. Model sempadan adalah sistem kecerdasan buatan yang paling kuat dan canggih.
Ahli-ahli jawatankuasa keselamatan termasuk CEO OpenAI Sam Altman dan Pengerusi Bret Taylor, bersama dua ahli lembaga lain, Adam D'Angelo, yang merupakan CEO Quora, dan Nicole Seligman, bekas Kitab Undang-undang am Sony. OpenAI mengatakan bahawa empat pakar teknikal dan dasar syarikat juga merupakan ahli.
Pekerjaan pertama jawatankuasa itu adalah menilai dan membangunkan lagi proses dan langkah-langkah keselamatan OpenAI dan membuat cadangan kepada lembaga dalam tempoh 90 hari. Syarikat itu mengatakan bahawa kemudian akan secara terbuka menerbitkan cadangan yang diterima "secara konsisten dengan keselamatan dan keselamatan."
