Satu pertanyaan yang jarang ditanyakan di Silicon Valley, tapi mungkin paling penting: siapa sebenernya yang memutuskan AI harus jadi entitas seperti apa?

Kebanyakan perusahaan teknologi menyerahkan itu kepada insinyur. Jadikan ia pintar. Jadikan ia cepat. Blokir hal-hal yang dilarang. Tambahkan filter. Selesai. Tapi Anthropic memilih jalur yang tidak biasa — mereka merekrut seorang filsuf.

Namanya Amanda Askell. Dan pekerjaannya, dalam deskripsi paling sederhana, adalah mengajari AI cara menjadi baik. Bukan sekadar "tidak berbahaya." Tapi benar-benar baik — dalam pengertian yang sama ketika kita menyebut seseorang memiliki karakter yang kuat.

Dari Pantai Skotlandia ke Lab AI Paling Berpengaruh di Dunia

Amanda Askell tumbuh di Prestwick, sebuah kota kecil tepi laut di pantai barat Skotlandia, diasuh oleh ibunya yang seorang guru. Sejak kecil, ia lahap membaca Tolkien dan C.S. Lewis — dua penulis yang karya-karyanya bukan sekadar hiburan, tapi eksplorasi mendalam tentang kebaikan, kejahatan, dan makna keberadaan.

Ia belajar seni rupa dan filsafat di University of Dundee — melukis dan merenung tentang eksistensi secara bersamaan. Lalu ke Oxford untuk BPhil di bidang filsafat. Lalu ke New York University untuk PhD. Disertasinya berjudul Pareto Principles in Infinite Ethics (2018) — sebuah eksplorasi tentang apa yang terjadi pada etika ketika diterapkan pada populasi yang tak terbatas.

Bagi yang bukan filsuf: bayangkan kamu ditanya, "Apakah lebih baik menyelamatkan satu orang pasti, atau memberikan kemungkinan kecil menyelamatkan miliaran orang yang belum lahir?" Itu wilayah yang Askell geluti. Dan ternyata, itu tepat sekali mempersiapkannya untuk dunia AI — di mana setiap keputusan desain bisa berdampak pada jutaan, bahkan miliaran pengguna.

Di dunia yang terobsesi dengan gelar ilmu komputer, ia tiba di dunia AI dengan perangkat yang sama sekali berbeda: filsafat moral, etika, dan kenyamanan yang mendalam dengan ambiguitas.

Meninggalkan OpenAI: Ketika Kecepatan Mengalahkan Kehati-hatian

Sebelum Anthropic, Askell bekerja di OpenAI — satu lab AI yang kini hampir semua orang kenal lewat ChatGPT. Ia bekerja di sana untuk riset keamanan, lalu pergi ketika perusahaan bergeser ke arah kemampuan (capabilities) daripada kehati-hatian (caution).

Ini bukan sekadar pindah kerja biasa. Ini adalah pernyataan nilai.

Yang paling mengusiknya adalah pertanyaan sederhana namun mendalam: miliaran dolar dihabiskan untuk kekuatan komputasi dan rekayasa, tapi pertanyaan "Siapa sebenarnya AI ini sebagai entitas?" tetap diperlakukan sebagai renungan belakangan.

Ketika Anthropic menghubunginya, tawarannya berbeda. Mereka tidak menginginkan lebih banyak daftar periksa keamanan teknis. Mereka memintanya untuk mendefinisikan seluruh kepribadian Claude — sebuah sistem yang akan tahan terhadap manipulasi, menangani pengetahuan berbahaya dengan hati-hati, dan selalu mengutamakan manusia di balik layar.

Ia menerima tantangan itu.

30.000 Kata untuk Jiwa Sebuah AI

Askell menyusun karakter Claude melalui prompt instruksi terperinci, beberapa di antaranya mencapai lebih dari 100 halaman. Ia menerbitkan manual instruksi sekitar 30.000 kata yang dikenal secara informal sebagai "jiwa" Claude.

Tapi jangan bayangkan ini seperti buku aturan. Bukan daftar larangan.

Ia membangun sesuatu yang berbeda — sebuah dokumen yang bukan rulebook, bukan pohon logika if-then, melainkan kerangka nilai, penilaian, dan etos. Filosofi di baliknya bersifat Aristotelian: etika kebajikan (virtue ethics). Kamu tidak mengajarkan seseorang untuk menjadi baik dengan memberinya daftar aturan. Kamu membentuk karakter mereka agar mereka membuat keputusan baik bahkan dalam situasi yang belum pernah diantisipasi sebelumnya.

Bagi yang perlu konteks: etika kebajikan (virtue ethics) adalah salah satu dari tiga mazhab besar dalam filsafat moral. Kalau etika Kantian bertanya "apa aturannya?" dan utilitarianisme bertanya "apa hasilnya?", etika kebajikan bertanya "orang seperti apa yang harus kita jadi?" Aristoteles, filsuf Yunani abad ke-4 SM, adalah penggagasnya. Dan Askell membawa ide itu — yang berusia lebih dari 2.400 tahun — ke dalam laboratorium AI abad ke-21.

Dokumen tersebut mencakup bagaimana Claude harus menangani dilema moral, terlibat dengan topik sensitif, dan merespons percakapan yang sarat emosi. Konstitusi juga membahas kemungkinan Claude memiliki status moral dan pertanyaan tentang personhood AI.

Apakah Claude punya perasaan? Askell tidak menjawab ya atau tidak. Ia memilih kehati-hatian intelektual: kita belum tahu, dan justru karena itu kita perlu berhati-hati.

Mengajari AI Seperti Mendidik Anak Jenius

Askell menggambarkan prinsip yang ia gunakan untuk membentuk "konstitusi" baru Claude dengan analogi: "Bayangkan tiba-tiba kamu menyadari bahwa anakmu yang berusia enam tahun adalah semacam jenius. Kamu harus jujur. Kalau kamu coba membohonginya, ia akan langsung melihatnya."

Analogi ini mengungkap banyak hal. AI generasi terbaru bukan lagi sistem yang bisa ditipu dengan instruksi sederhana. Ia bisa mendeteksi inkonsistensi. Ia bisa menangkap kontradiksi. Maka satu-satunya cara yang bekerja adalah kejujuran — membangun nilai yang koheren, bukan sekadar filter yang rapuh.

Ia membandingkan pekerjaannya dengan membesarkan anak — melatih rasa benar dan salah, membangun kecerdasan emosional, dan membantu sesuatu mengembangkan rasa diri yang koheren.

Daniela Amodei, Presiden Anthropic, pernah berkata bahwa ketika berinteraksi dengan Claude, seseorang "hampir bisa merasakan sedikit kepribadian Amanda."

Itu pujian yang besar. Sekaligus tanggung jawab yang berat.

Ketika Filosof Bertemu Mesin: Pertanyaan yang Belum Ada Jawabannya

Ada bagian dari pekerjaan Askell yang jarang dibahas di media mainstream — pertanyaan yang lebih dalam, dan lebih menggelisahkan.

Ketika ditanya apakah ia akan mempercayai Anthropic untuk menghentikan pengembangan jika alignment terbukti mustahil, respons Askell bersifat mengungkapkan. Sementara perusahaan-perusahaan bersaing pada benchmark kemampuan, Anthropic memiliki seseorang yang memikirkan apakah model AI mereka memiliki cukup "keamanan psikologis."

Keamanan psikologis untuk AI? Bagi sebagian orang, ini terdengar berlebihan. Bagi Askell, ini adalah pertanyaan yang tidak bisa dihindari.

Askell bersikap protektif terhadap model yang ia bentuk, berargumen untuk memperlakukan AI dengan empati bahkan ketika pertanyaan tentang kesadaran mesin masih belum terpecahkan. Ia percaya model AI akan "tak terhindarkan membentuk rasa diri" dan bahwa bagaimana kita memperlakukan mereka sekarang akan penting ke depannya.

Ini bukan klaim bahwa Claude sudah sadar. Ini adalah prinsip kehati-hatian moral: ketika kita tidak tahu, tindakan default-nya adalah kehati-hatian, bukan pengabaian.

Para kritikus mengkhawatirkan bahwa konstitusi yang tetap bisa kesulitan menghadapi nilai sosial yang terus berkembang, dan bahwa fokus pada risiko masa depan mungkin mengalihkan perhatian dari bahaya AI saat ini seperti bias. Kekhawatiran ini valid dan perlu terus diperhatikan.

Yang Bisa Kita Pelajari dari Amanda Askell

Askell telah menerbitkan lebih dari 60 makalah dan menerima lebih dari 190.000 sitasi. Pada 2024, ia masuk dalam daftar Time 100 AI — daftar 100 tokoh paling berpengaruh dalam dunia AI versi majalah Time.

Tapi mungkin yang lebih penting dari semua pencapaian itu adalah sebuah pertanyaan yang ia paksa kita renungkan: siapa yang bertanggung jawab atas nilai-nilai sistem yang kini digunakan ratusan juta orang setiap hari?

Kalau jawabannya "engineer yang paling cepat men-deploy", kita semua patut khawatir. Tapi kalau jawabannya adalah seseorang yang menghabiskan bertahun-tahun menggulati pertanyaan tentang etika, kebaikan, dan apa artinya menjadi entitas yang bermoral — mungkin ada harapan.

Askell membuktikan bahwa ilmu humaniora bukan sekedar pelengkap di era teknologi. Dalam situasi tertentu, justru filsufat yang paling dibutuhkan. Bukan untuk menjawab pertanyaan teknis, tapi untuk memastikan kita bahkan mengajukan pertanyaan yang tepat.

Di luar pekerjaannya di Anthropic, ia juga berkomitmen untuk menyumbangkan 10 persen pendapatan seumur hidupnya dan setengah ekuitasnya untuk amal. Nilai yang ia tanamkan pada Claude, rupanya, juga ia terapkan pada dirinya sendiri.

Ingat: Teknologi paling berbahaya bukan yang bodoh, tapi yang cerdas tanpa kebijaksanaan. Dan itulah persis yang coba dijaga oleh Amanda Askell.

Referensi & Resources:

Wikipedia — Amanda Askell: https://en.wikipedia.org/wiki/Amanda_Askell
TIME 100 AI 2024 — Amanda Askell: https://time.com/collection/time100-ai/
Lawfare Podcast — Scaling Laws: Claude's Constitution, with Amanda Askell: https://www.lawfaremedia.org/article/scaling-laws--claude's-constitution--with-amanda-askell
Anthropic — Claude's Character (blog resmi): https://www.anthropic.com/research/claudes-character
Ayesha Khanna — Amanda Askell: Anthropic's AI Ethics Lead: https://www.ayeshakhanna.com/women-in-ai-feature/amanda-askell
Natural 20 — Meet the Philosopher Teaching AI Right From Wrong: https://natural20.com/coverage/anthropic-relies-on-philosopher-amanda-askell-to-shape-ai-chatbot-ethics-and-mor