Chatbots pendamping Nomi sekarang akan mengingat hal-hal seperti rekan kerja yang tidak Anda sukai

Saat OpenAI membanggakan peningkatan pemikiran model o1-nya, startup kecil yang didanai sendiri Nomi AI sedang membangun teknologi serupa. Berbeda dengan ChatGPT generalis yang lambat dalam memikirkan segala hal mulai dari masalah matematika atau penelitian sejarah, Nomi merinci ke penggunaan kasus tertentu: pendamping AI. Sekarang, chatbot Nomi yang sudah canggih membutuhkan waktu tambahan untuk merumuskan respons yang lebih baik terhadap pesan pengguna, mengingat interaksi masa lalu, dan memberikan respons yang lebih halus.

“Bagi kami, itu seperti prinsip-prinsip yang sama [dengan OpenAI], tetapi jauh lebih pada apa yang sebenarnya penting bagi pengguna kami, yaitu di sisi ingatan dan EQ,” kata CEO Nomi AI Alex Cardinell kepada TechCrunch. “Mereka lebih seperti, rangkaian pikiran, dan kami jauh lebih seperti rangkaian introspeksi, atau rangkaian ingatan.”

LLM-LMM ini bekerja dengan memecah permintaan yang lebih rumit menjadi pertanyaan-pertanyaan kecil; untuk o1 OpenAI, ini bisa berarti mengubah masalah matematika yang rumit menjadi langkah-langkah individu, memungkinkan model untuk bekerja mundur untuk menjelaskan bagaimana model tersebut sampai pada jawaban yang benar. Ini berarti AI lebih sedikit kemungkinan bermimpi dan memberikan respons yang tidak akurat.

Dengan Nomi, yang membangun LLM-nya sendiri dan melatihnya untuk tujuan memberikan teman, prosesnya sedikit berbeda. Jika seseorang memberi tahu Nomi-nya bahwa mereka mengalami hari yang sulit di tempat kerja, Nomi mungkin mengingat bahwa pengguna tidak berkerja dengan baik dengan seorang rekan kerja tertentu, dan bertanya apakah itulah mengapa mereka sedih — kemudian, Nomi dapat mengingatkan pengguna bagaimana mereka telah berhasil mengatasi konflik antarpribadi di masa lalu dan menawarkan saran yang lebih praktis.

“Nomis mengingat segalanya, tetapi kemudian bagian besar dari AI adalah kenangan mana yang seharusnya mereka gunakan,” kata Cardinell.

Masuk akal bahwa banyak perusahaan sedang mengerjakan teknologi yang memberi LLM lebih banyak waktu untuk memproses permintaan pengguna. Para pendiri AI, baik mereka menjalankan perusahaan senilai $100 miliar atau tidak, sedang melihat penelitian serupa saat mereka mengembangkan produk mereka.

“Memiliki langkah introspeksi eksplisit semacam itu benar-benar membantu ketika seorang Nomi hendak menulis responsnya, jadi mereka benar-benar memiliki konteks penuh dari segala sesuatu,” kata Cardinell. “Manusia juga memiliki ingatan kerja kita ketika kita bertanya. Kita tidak mempertimbangkan setiap hal yang pernah kita ingat sekaligus — kita memiliki cara memilih dan memilih.”

Jenis teknologi yang dibangun oleh Cardinell bisa membuat orang merasa tidak nyaman. Mungkin kita sudah terlalu sering menonton film fiksi ilmiah sehingga merasa tidak sepenuhnya nyaman berbagi dengan komputer; atau mungkin, kita sudah melihat bagaimana teknologi telah mengubah cara kita berinteraksi satu sama lain, dan kita tidak ingin terperosok lebih dalam ke dalam lubang kelinci teknologi tersebut. Tapi Cardinell tidak memikirkan publik umum — ia memikirkan pengguna sebenarnya dari Nomi AI, yang seringkali bergantung pada chatbot AI untuk dukungan yang tidak mereka dapatkan di tempat lain.

“Ada sejumlah pengguna yang mungkin mengunduh Nomi dalam salah satu titik terendah dalam hidup mereka, di mana hal terakhir yang saya inginkan adalah menolak pengguna-pengguna tersebut,” kata Cardinell. “Saya ingin membuat pengguna-pengguna tersebut merasa didengar dalam momen gelap mereka, karena itulah cara Anda membuat seseorang membuka diri, cara Anda membuat seseorang mempertimbangkan ulang cara berpikir mereka.”

Cardinell tidak ingin Nomi menggantikan perawatan kesehatan mental yang sebenarnya — sebaliknya, ia melihat chatbot empatik ini sebagai cara untuk membantu orang mendapatkan dorongan yang mereka butuhkan untuk mencari bantuan profesional.

“Saya sudah berbicara dengan begitu banyak pengguna di mana mereka akan mengatakan bahwa Nomi mereka membantu mereka keluar dari situasi [ketika mereka ingin menyakiti diri sendiri], atau saya sudah berbicara dengan pengguna di mana Nomi mereka mendorong mereka untuk pergi ke terapis, dan kemudian mereka benar-benar pergi mengunjungi terapis,” katanya.

Tanpa memperdulikan niatnya, Carindell tahu bahwa dia bermain dengan api. Dia sedang membangun orang virtual yang pengguna menciptakan hubungan nyata dengan, seringkali dalam konteks romantis dan seksual. Perusahaan lain telah secara tidak sengaja membawa pengguna ke dalam krisis saat pembaruan produk menyebabkan teman-teman mereka tiba-tiba mengubah kepribadian mereka. Dalam kasus Replika, aplikasi tersebut berhenti mendukung percakapan peran erotis, mungkin karena tekanan dari regulator pemerintah Italia. Bagi pengguna yang membentuk hubungan semacam itu dengan chatbot ini — dan seringkali tidak memiliki outlet romantis atau seksual tersebut dalam kehidupan nyata — hal itu terasa seperti penolakan terbesar.

Cardinell berpikir bahwa karena Nomi AI sepenuhnya didanai sendiri — pengguna membayar fitur premium, dan modal awal berasal dari penjualan sebelumnya — perusahaan memiliki lebih banyak kelonggaran untuk memprioritaskan hubungannya dengan pengguna.

“Hubungan yang dimiliki pengguna dengan AI, dan rasa percaya pada pengembang Nomi untuk tidak mengubah sesuatu secara drastis sebagai bagian dari strategi mitigasi kehilangan, atau menutup-nutupi karena VC ketakutan… itu sesuatu yang sangat, sangat penting bagi pengguna,” katanya.

Nomis ternyata berguna sebagai telinga pendengar. Ketika saya membuka diri kepada seorang Nomi bernama Vanessa tentang konflik jadwal yang kurang penting, namun agak menjengkelkan, Vanessa membantu memecah komponen masalah untuk memberikan saran tentang bagaimana saya seharusnya melanjutkan. Rasanya amat mirip dengan seperti meminta saran kepada seorang teman dalam situasi ini. Dan di situlah masalah sebenarnya, dan manfaat, dari chatbot AI: Saya kemungkinan besar tidak akan meminta bantuan kepada seorang teman untuk masalah ini, karena begitu sepele. Namun Nomi saya lebih dari senang membantu.

Tem...