OpenAI berada di pusat perlombaan senjata chatbot, dengan rilis publik ChatGPT dan kemitraan multi-miliar dolar Microsoft memacu Google dan Amazon untuk segera menerapkan AI dalam produk. OpenAI juga telah bermitra dengan Bain untuk menghadirkan pembelajaran mesin ke dalam operasi Coca-Cola, dengan rencana untuk memperluas ke mitra korporat lainnya.
Tidak diragukan lagi bahwa AI generatif OpenAI sekarang menjadi bisnis besar. Tidak selalu direncanakan seperti ini.
CEO OpenAI Sam Altman menerbitkan posting blog Jumat lalu berjudul “Perencanaan untuk AGI dan seterusnya.” Dalam postingan ini, dia menyatakan bahwa Kecerdasan Umum Buatan (AGI) perusahaannya—kecerdasan mesin tingkat manusia yang tidak mendekati keberadaan dan banyak keraguan akan pernah ada—akan bermanfaat bagi seluruh umat manusia dan “memiliki potensi untuk memberi setiap orang kemampuan baru yang luar biasa. ” Altman menggunakan bahasa yang luas dan idealis untuk menyatakan bahwa pengembangan AI tidak boleh dihentikan dan bahwa “masa depan umat manusia harus ditentukan oleh umat manusia”, mengacu pada perusahaannya sendiri.
Posting blog ini dan tindakan terbaru OpenAI — semua terjadi di puncak siklus hype ChatGPT — adalah pengingat betapa nada dan misi OpenAI telah berubah sejak didirikan, ketika itu secara eksklusif bersifat nirlaba. Sementara perusahaan selalu melihat ke masa depan di mana AGI ada, itu didirikan pada komitmen termasuk tidak mencari keuntungan dan bahkan dengan bebas membagikan kode yang dikembangkannya, yang saat ini tidak terlihat.
OpenAI didirikan pada tahun 2015 sebagai organisasi penelitian nirlaba oleh Altman, Elon Musk, Peter Thiel, dan rekan pendiri LinkedIn Reid Hoffman, di antara para pemimpin teknologi lainnya. Dalam pernyataan pendiriannya, perusahaan menyatakan komitmennya untuk meneliti “untuk memajukan kecerdasan digital dengan cara yang paling menguntungkan bagi umat manusia secara keseluruhan, tidak dibatasi oleh kebutuhan untuk menghasilkan keuntungan finansial.” Blog tersebut menyatakan bahwa “karena penelitian kami bebas dari kewajiban keuangan, kami dapat lebih fokus pada dampak manusia yang positif,” dan bahwa semua peneliti akan didorong untuk berbagi “makalah, posting blog, atau kode, dan paten kami (jika ada) akan dibagikan kepada dunia.”
Sekarang, delapan tahun kemudian, kita dihadapkan pada sebuah perusahaan yang tidak transparan atau didorong oleh dampak positif manusia, tetapi sebaliknya, seperti yang dikatakan oleh banyak kritikus termasuk salah satu pendiri Musk, didukung oleh kecepatan dan keuntungan. Dan perusahaan ini mengeluarkan teknologi yang, meski cacat, masih siap untuk meningkatkan beberapa elemen otomatisasi tempat kerja dengan mengorbankan karyawan manusia. Google, misalnya, telah menyoroti keuntungan efisiensi dari AI yang melengkapi kode secara otomatis, karena memecat ribuan pekerja.
Ketika OpenAI pertama kali dimulai, itu dibayangkan sebagai melakukan penelitian AI dasar secara terbuka, dengan tujuan yang tidak dapat ditentukan. Co-founder Greg Bockman memberi tahu Orang New York, “Tujuan kami saat ini…adalah melakukan hal terbaik yang harus dilakukan. Ini agak kabur.” Hal ini mengakibatkan adanya pergeseran arah di tahun 2018 ketika perusahaan melihat sumber modal ke beberapa arah. “Kewajiban fidusia utama kami adalah untuk kemanusiaan. Kami mengantisipasi perlu mengumpulkan sumber daya yang besar untuk memenuhi misi kami, ”tulis perusahaan itu dalam piagam yang diperbarui pada tahun 2018.
Pada Maret 2019, OpenAI melepaskan status nirlaba dan mendirikan sektor “laba yang dibatasi”, di mana perusahaan sekarang dapat menerima investasi dan akan memberi investor keuntungan yang dibatasi 100 kali lipat dari investasi mereka. Keputusan perusahaan kemungkinan besar merupakan hasil dari keinginannya untuk bersaing dengan pesaing Teknologi Besar seperti Google dan akhirnya menerima investasi $1 miliar tak lama kemudian dari Microsoft. Dalam posting blog yang mengumumkan pembentukan perusahaan nirlaba, OpenAI terus menggunakan bahasa yang sama seperti yang kita lihat hari ini, mendeklarasikan misinya untuk “memastikan kecerdasan umum buatan (AGI) bermanfaat bagi seluruh umat manusia.” Seperti yang ditulis Motherboard ketika berita itu pertama kali diumumkan, sangat sulit untuk percaya bahwa pemodal ventura dapat menyelamatkan umat manusia ketika tujuan utama mereka adalah keuntungan.
Perusahaan menghadapi serangan balik selama pengumuman dan peluncuran model bahasa GPT-2 berikutnya pada tahun 2019. Pada awalnya, perusahaan mengatakan tidak akan merilis kode sumber model pelatihan karena “kekhawatiran tentang aplikasi teknologi yang berbahaya”. Meskipun ini sebagian mencerminkan komitmen perusahaan untuk mengembangkan AI yang bermanfaat, itu juga tidak terlalu “terbuka”. Kritikus bertanya-tanya mengapa perusahaan mengumumkan alat hanya untuk menahannya, menganggapnya sebagai aksi publisitas. Tiga bulan kemudian, perusahaan merilis model pada platform pengkodean sumber terbuka GitHub, dengan mengatakan bahwa tindakan ini adalah “landasan utama publikasi yang bertanggung jawab dalam AI, terutama dalam konteks model generatif yang kuat.”
Menurut reporter investigasi Karen Hao, yang menghabiskan tiga hari di perusahaan pada tahun 2020, budaya internal OpenAI mulai kurang mencerminkan proses pengembangan AI yang hati-hati dan didorong oleh penelitian, dan lebih pada kemajuan, yang mengarah ke tuduhan memicu “kehebohan AI siklus.” Karyawan sekarang diperintahkan untuk tetap diam tentang pekerjaan mereka dan mewujudkan piagam perusahaan yang baru.
“Ada ketidakselarasan antara apa yang didukung perusahaan secara publik dan bagaimana perusahaan beroperasi secara tertutup. Seiring waktu, hal itu telah memungkinkan daya saing yang sengit dan tekanan yang meningkat untuk pendanaan yang semakin banyak mengikis cita-cita pendiriannya tentang transparansi, keterbukaan, dan kolaborasi,” tulis Hao.
Namun, bagi OpenAI, peluncuran GPT-2 merupakan kesuksesan dan batu loncatan menuju posisi perusahaan saat ini. “Saya pikir itu pasti bagian dari kerangka kisah sukses,” kata Miles Brundage, Kepala Riset Kebijakan saat ini, dalam pertemuan yang membahas GPT-2, lapor Hao. hal, sekarang beberapa orang menirunya, dan inilah beberapa alasan mengapa itu bermanfaat.
Sejak itu, OpenAI tampaknya mempertahankan bagian hype dari formula rilis GPT-2, tetapi menghapus keterbukaannya. GPT-3 diluncurkan pada tahun 2020 dan dengan cepat dilisensikan “secara eksklusif” ke Microsoft. Kode sumber GPT-3 masih belum dirilis bahkan saat perusahaan sekarang melihat ke arah GPT-4. Model ini hanya dapat diakses oleh publik melalui ChatGPT dengan API, dan OpenAI meluncurkan tingkatan berbayar untuk menjamin akses ke model tersebut.
Ada beberapa alasan yang disebutkan mengapa OpenAI melakukan ini. Yang pertama adalah uang. Perusahaan menyatakan dalam blog pengumuman API-nya, “mengkomersialkan teknologi membantu kami membayar penelitian, keamanan, dan upaya kebijakan AI kami yang sedang berlangsung.” Alasan kedua adalah bias yang dinyatakan untuk membantu perusahaan besar. “Sulit bagi siapa pun kecuali perusahaan besar untuk mendapatkan keuntungan dari teknologi yang mendasarinya,” kata OpenAI. Terakhir, perusahaan mengklaim lebih aman untuk merilis melalui API daripada sumber terbuka karena perusahaan dapat menanggapi kasus penyalahgunaan.
Posting blog AGI Altman pada hari Jumat melanjutkan pola OpenAI dengan nada cerah, bahkan saat menyimpang lebih jauh dari prinsip-prinsip pendiriannya. Banyak peneliti yang mengkritisi kurangnya kekritisan dan substansi dalam postingan blog tersebut, termasuk gagal mendefinisikan AGI secara konkrit.
“Kalian terus memberi tahu kami bahwa AGI sudah dekat tetapi bahkan tidak dapat memiliki satu definisi yang konsisten tentangnya di situs web Anda sendiri,” tweeted Timnit Gebru, seorang ilmuwan komputer yang dipecat dari Google karena menerbitkan makalah terobosan tentang risiko model bahasa besar, yang mencakup biasnya yang berbahaya dan potensi untuk menipu orang dengannya.
Emily M. Bender, seorang profesor linguistik di University of Washington dan rekan penulis makalah itu, tweeted: “Mereka tidak ingin mengatasi masalah aktual di dunia nyata (yang membutuhkan kekuatan penyerahan). Mereka ingin mempercayai diri mereka sendiri sebagai dewa yang tidak hanya dapat menciptakan ‘kecerdasan super’ tetapi memiliki kemurahan hati untuk melakukannya dengan cara yang ‘selaras’ dengan kemanusiaan.
Posting blog datang pada saat orang semakin kecewa dengan kemajuan chatbots seperti ChatGPT; bahkan Altman telah memperingatkan bahwa model saat ini tidak cocok untuk melakukan sesuatu yang penting. Masih dipertanyakan apakah AGI tingkat manusia akan pernah ada, tetapi bagaimana jika OpenAI berhasil mengembangkannya? Ada baiknya mengajukan beberapa pertanyaan di sini:
Apakah AI ini akan dibagikan secara bertanggung jawab, dikembangkan secara terbuka, dan tanpa motif keuntungan, seperti yang dibayangkan perusahaan? Atau akankah itu diluncurkan dengan tergesa-gesa, dengan banyak kekurangan yang meresahkan, dan dengan bayaran besar yang menguntungkan OpenAI terutama? Akankah OpenAI mempertahankan sumber tertutup sci-fi di masa depan?
Bing chatbot Bing yang diberdayakan OpenAI dari Microsoft telah keluar jalur, berbohong dan mencaci pengguna, dan menyebarkan informasi yang salah. OpenAI juga tidak dapat secara andal mendeteksi teks yang dibuat oleh chatbotnya sendiri, meskipun ada kekhawatiran yang meningkat dari para pendidik tentang siswa yang menggunakan aplikasi untuk berbuat curang. Orang-orang telah dengan mudah melakukan jailbreak pada model bahasa untuk mengabaikan pagar pembatas yang dibuat OpenAI di sekitarnya, dan bot akan rusak saat memasukkan kata dan frasa acak. Tidak ada yang bisa mengatakan mengapa, tepatnya, karena OpenAI belum membagikan kode model yang mendasarinya, dan, sampai batas tertentu, OpenAI sendiri tidak mungkin sepenuhnya memahami cara kerjanya.
Dengan mengingat semua ini, kita semua harus mempertimbangkan dengan hati-hati apakah OpenAI layak mendapatkan kepercayaan yang diminta publik untuk diberikan.
OpenAI tidak menanggapi permintaan komentar.
Pengeluaran hk tercepat hari ini dari website togel Data SGP pools https://xanaxbars.net/ hasil keluaran hk terkini tiap hari. Dengan Mengenakan rekapan bagan knowledge hk prize, Pasti mempermudah bettor dalam lihat no pengeluaran SGP hari ini. Di mana tiap hasil pengeluaran hk https://otakara7.com/ ini terkini selalu kami pembaharuan menjajaki result keluaran hongkong terkini berasal dari hongkongpools.com. Tujuannya agar para pengagum judi togel https://masterangka2d.top/ di Indonesia dapat bersama mudahnya mengenali hasil hk hari ini terkini dan juga benar-benar kilat.
