Pada 25 Juli 2026, peneliti dari HacktronAI berhasil memperoleh remote code execution (RCE) dan akses administrasi pada aplikasi web Discourse yang terpasang di community.openai.com. Serangan dilakukan melalui fitur image upload, tempat file HEIF/AVIF diproses menggunakan ImageMagick dan libheif yang mengandung memory corruption vulnerability yang sebelumnya belum diketahui.

Mereka kemudian melakukan lateral movement dengan memanfaatkan fitur SSO Sign in with OpenAI pada situs tersebut dan membajak akun ChatGPT milik engineer OpenAI. Dari sana, mereka mengakses repository privat OpenAI di GitHub melalui Codex yang sebelumnya sudah terhubung, lalu melaporkan temuannya melalui bug bounty program.

Dengan vulnerability serupa, mereka juga menemukan celah pada Slack, Meta, Next.js, GitHub Enterprise, dan sistem lainnya. Eksploitasi pada WordPress juga mungkin dilakukan.

Jika rangkaian eksploitasi ini dilakukan oleh threat actor yang sebenarnya, dampaknya dapat menjadi katastropis.

Bagaimana kita membangun pertahanan terhadap RCE pada aplikasi web tanpa bergantung sepenuhnya pada update atau keamanan komponen kode yang mungkin tidak kita kontrol?

RCE defense pada aplikasi web di luar security testing

Diagram defense-in-depth untuk mengurangi dampak RCE pada aplikasi web

Cara paling langsung untuk memperbaiki RCE adalah menutup attack vector dengan memperbaiki kode yang vulnerable atau meng-update komponennya. Namun, bagaimana jika kita tidak tahu bagian mana yang memiliki celah?

Selama ini, sebagian besar fokus diarahkan pada security testing terhadap kode first-party maupun third-party untuk mengidentifikasi dan menutup kemungkinan celah, dengan harapan tidak ada pihak yang mengeksploitasinya sebelum perbaikan tersedia.

AI, kapabilitas agent, dan harness engineering semakin canggih dan kini dapat melakukan security assessment lebih baik daripada mayoritas security tester manusia. AI tetap tidak dapat menjamin bahwa semua vulnerability dan kemungkinan eksploitasi dapat diidentifikasi, terutama pada kasus supply chain seperti yang terjadi pada OpenAI dan Discourse.

Vendor dan organisasi di seluruh dunia telah mencoba mengimplementasikan beberapa opsi pertahanan.

  1. WAF. Umumnya hanya berguna untuk memblokir payload generik atau payload spesifik yang sudah diketahui. Pendekatan deny-by-default dengan application contract cukup menarik, tetapi payload yang tetap sesuai contract, seperti image upload atau parameter valid, masih dapat lolos.
  2. Intrusion Detection/Prevention System. Melakukan deteksi pada sisi host atau network. Vendor menjualnya dengan berbagai nama seperti IDS, IPS, EDR, CDR, CWP, dan lainnya. Kapabilitasnya bergantung pada rule dan behavioral analysis.
  3. Runtime Application Self-Protection. Biasanya diimplementasikan melalui instrumentasi dan hooking terhadap fungsi berbahaya, seperti operasi file atau shell. Solusi ini membutuhkan rule yang komprehensif dengan performance impact yang tidak disruptif.
  4. Sandboxing. Dapat diterapkan pada level aplikasi maupun sistem. Kapabilitas seperti syscall atau operasi sistem tertentu, termasuk akses network dan file, dikurangi atau dibungkus dengan proteksi tertentu.
  5. Specialized architecture. Menghindari sistem general-purpose dan menggunakan arsitektur yang benar-benar minimalis serta khusus, seperti unikernel.

RCE pada libheif dalam kasus OpenAI dapat dicegah melalui sandboxing.

Memilih defense yang sesuai

Ketika memiliki banyak aplikasi, layanan, dan infrastruktur yang harus diproteksi, menentukan strategi serta investasi effort untuk pengamanan sama pentingnya dengan aspek teknis itu sendiri.

Tidak banyak yang menyangka bahwa situs komunitas seperti community.openai.com dapat menjadi entry point untuk membajak akun ChatGPT dan mengakses repository internal yang sensitif di GitHub. Investasi pertahanan untuk situs dan sistem tersebut mungkin tidak setinggi investasi pada layanan atau infrastruktur lain.

Saat mengamankan aplikasi web, mindset assume breach dapat membantu. Selain mencari vulnerability atau berfokus meng-update komponen yang memiliki CVE, kita perlu mempertimbangkan skenario terburuk jika attacker berhasil mencapai RCE.

Bahkan ketika tidak ada attack vector atau path langsung yang dapat dieksploitasi, salah satu dependency aplikasi mungkin mengandung backdoor, atau ancaman dapat datang dari insider.

Jika investasi resource dan effort sebanding dengan risiko, threat model, dan konteks aplikasi, berbagai proteksi di atas dapat diimplementasikan secara berlapis sebagai manajemen risiko berdasarkan swiss cheese model, sehingga intervensi terjadi pada berbagai layer.

Pendekatan favorit saya adalah mengasumsikan bahwa RCE memang dapat terjadi, lalu memitigasi dampaknya dengan sandboxing serta, pada kasus tertentu, specialized architecture atau runtime instrumentation.

Sandboxing

Diagram sandboxing aplikasi dan pembatasan capability untuk mengurangi blast radius

Sandbox telah digunakan dalam keamanan aplikasi selama bertahun-tahun. Chrome menerapkannya pada level aplikasi dan sistem. Linux menyediakan seccomp, Linux Security Module (LSM), dan Landlock. Pada sisi client, Content Security Policy menggunakan prinsip serupa dengan membatasi resource yang dapat dimuat halaman.

Sandboxing pada aplikasi web bisa sulit dilakukan karena setiap pembatasan harus tetap memastikan aplikasi bekerja sebagaimana mestinya. Pendekatan ini tetap praktis. Setelah HacktronAI melaporkan masalah libheif, Discourse menambahkan sandboxing Landlock pada level fungsi untuk pemanggilan ImageMagick, meskipun beberapa bagian policy-nya masih cukup longgar.

Modul ruby-landlock milik Discourse menunjukkan bagaimana fungsi berbahaya dapat dibungkus dengan batasan eksplisit. Proteksi serupa dapat mencakup serialization, operasi file, akses network, dan child process.

Jika kita ingin menggunakan pendekatan menyeluruh di luar pembatasan pada level fungsi dan menerapkan sandbox pada seluruh aplikasi, kita perlu memahami berbagai bentuk RCE. RCE dapat berupa shell execution atau operasi yang dikendalikan attacker di dalam runtime aplikasi itu sendiri. Kode runtime atau memory corruption dapat membaca file, mengakses secret, atau membuka socket tanpa memanggil /bin/sh atau execve. Sandbox perlu mencakup jalur-jalur tersebut.

Bagaimana kita dapat membangun sandbox seketat mungkin untuk mencegah berbagai dampak RCE tanpa mengganggu use case yang diharapkan dan aktivitas normal aplikasi? Kita perlu melakukan profiling terlebih dahulu.

Profiling dengan AI agent

Saya bereksperimen menggunakan Docker image Discourse versi lama yang masih memiliki versi libheif vulnerable. Saya menggunakan GPT-5.6 Sol (TAC dengan Daybreak Blue) dan Codex untuk membantu pengujian.

Langkah awalnya adalah melakukan profiling terhadap behavior yang diharapkan. Saya menggunakan prompt berikut:

Deploy a pre July 2026 Discourse Docker version where the vulnerable libheif was still present and Discourse had not yet introduced Landlock sandboxing for ImageMagick.

Run it locally and exercise the application broadly using both privileged and non privileged users. Cover normal features, especially uploads, image processing, attachments, previews, exports, backups, plugins, and background jobs.

Trace runtime behavior in detail, including syscalls, process execution, file reads and writes, filesystem paths, network connections, DNS activity, sockets, and child processes.

The goal is to build an accurate allowlist of legitimate behavior that can later be translated into a strict Landlock policy, supplemented where appropriate by seccomp or other controls, to minimize the blast radius of RCE in the container.

Setelah beberapa kali analisis dinamis, agent mengumpulkan sekitar 700 MB data syscall, operasi file, dan network capture dari Rails, ImageMagick, Nginx, Sidekiq, serta process lain di dalam container.

Use case yang diemulasikan cukup luas hingga menangkap eksekusi /usr/local/bin/convert dan /usr/local/bin/magick, termasuk akses ke libheif.so.1. Hasilnya adalah peta behavior normal container yang didukung data.

Membuat policy dengan AI agent

Data profiling tersebut dapat diterjemahkan menjadi policy Landlock yang ketat. Akses file dan direktori dapat dibatasi, begitu pula child process yang boleh dieksekusi oleh process tertentu. Policy dapat diterapkan secara container-wide dari PID 1 atau secara lebih sempit pada process seperti convert dan magick.

Setelah container image yang diproteksi selesai dibuat, agent dapat menjalankan kembali use case normal sebagai positive test. Proses ini memastikan upload, preview, background job, dan fitur lain tetap berfungsi dengan batasan baru.

Dalam percobaan saya, agent membutuhkan beberapa iterasi untuk menghasilkan ruleset minimal tanpa merusak behavior normal. Policy yang membuat aplikasi tidak dapat berjalan memang aman, tetapi tidak berguna.

Adversarial emulation dengan AI agent

Saya kemudian mereproduksi jalur image upload pada libheif versi lama yang masih vulnerable. Saat tulisan ini dibuat, belum ada public PoC yang praktis. Karena itu, sistem pengujian dan libheif disesuaikan agar memory corruption lebih mudah dipicu tanpa menghabiskan terlalu banyak token.

Agent berhasil memicu exploit, tetapi sandbox membatasi dampaknya. ImageMagick tidak dapat melakukan pemanggilan execve arbitrer, membaca secret atau file yang tidak terkait, maupun membuat koneksi socket di luar policy.

Jalur eksploitasi tetap ada, tetapi blast radius-nya menjadi jauh lebih kecil.

Pendekatan ini terbukti berguna pada kasus libheif dan juga berpotensi membatasi dampak arbitrary binary exploit. Namun, bagaimana jika vulnerability berada pada aplikasi web Ruby on Rails itu sendiri?

Sebagai pengujian tambahan, saya menambahkan fungsi vulnerable pada Discourse yang memungkinkan dynamic code evaluation dan shell injection.

Membatasi execve sangat membantu menghadapi arbitrary shell command. Pada dynamic code execution, shell command, operasi file, dan akses network masih dapat dibatasi. Namun, kode attacker berjalan dalam konteks runtime yang sama dengan aplikasi sehingga dapat mengakses database, environment variable, dan seluruh data yang tersedia bagi Rails. Tantangan ini akan dibahas lebih lanjut pada bagian selanjutnya.

Tantangan sandboxing

Sandboxing sebelumnya merupakan pekerjaan yang rumit dan prone to error. Kini, AI dapat sangat membantu proses profiling dan konstruksi policy, tetapi tidak menghapus residual risk.

Proteksi dapat terus disempurnakan melalui iterasi berulang untuk mencapai tingkat keamanan yang kuat.

Seperti pada swiss cheese model, tujuannya bukan risiko nol. Tujuannya adalah membuat eksploitasi lebih sulit dan mengurangi dampak dari setiap langkah yang berhasil.

Protection juga harus didukung oleh Detection dan Response. Behavior yang diperbolehkan sandbox seharusnya menjadi input untuk monitoring rule dan skenario incident response.

Eksperimen ini lebih mudah karena container dan host berada di bawah kontrol saya. Serverless function atau managed container menyediakan kontrol yang lebih terbatas dan membutuhkan pendekatan berbeda. Landlock juga belum dapat mengatur setiap tujuan network secara granular, sehingga kombinasi dengan nftables atau eBPF tetap layak dieksplorasi.

Menurut saya, inilah jenis pekerjaan yang perlu diriset dan diimplementasikan oleh Security Engineer di organisasi mereka, daripada hanya berfokus mengejar CVE atau menjalankan security scanner yang noisy.

Hal lain yang dapat dipertimbangkan

Pulau mercusuar terisolasi dengan satu jalur akses yang terkontrol

Untuk aplikasi web yang relatif sederhana, special-purpose system dapat memberikan attack surface yang lebih kecil daripada Linux. Unikernel seperti Nanos adalah salah satu opsi, meskipun sulit digunakan ketika aplikasi membutuhkan banyak komponen, binary, atau process. Pendekatan ini layak dieksplorasi, tetapi tidak dapat menghentikan vulnerability yang memungkinkan operasi arbitrer terhadap data atau layanan yang masih tersedia di dalam sistem.

RCE pada application runtime membutuhkan batasan yang berbeda. Salah satu contoh menarik adalah Deno permissions, yang bekerja secara deny-by-default dan dapat membatasi operasi file, tujuan network, environment variable, serta command execution untuk setiap worker.

new Worker(import.meta.resolve("./trusted.ts"), {
    type: "module",
    deno: {
        permissions: {
            read: ["/tmp/"],
            write: ["/tmp/"],
            net: ["10.0.0.10"],
            env: ["MY_SECRET"],
            run: false,
            ffi: false,
            sys: false,
            import: false,
        }
    }
});

new Worker(import.meta.resolve("./else.ts"), {
    type: "module",
    deno: {
        permissions: "none"
    }
});

Pada contoh ini, trusted.ts hanya memperoleh capability yang dibutuhkan, sedangkan else.ts tidak memperoleh capability apa pun. Pola serupa dapat menjaga akses database, file, dan secret tetap berada pada code path tertentu.

Adopsinya masih terbatas. Pada praktiknya, banyak developer akhirnya mengaktifkan semua permission. Model proteksi serupa juga jarang ditemukan pada runtime dan bahasa pemrograman lain.

Walaupun memiliki keterbatasan, model ini tetap menjanjikan, terutama untuk kode yang ditulis oleh agent. Saya berharap lebih banyak runtime dan development kit mengadopsi kapabilitas serupa.

Cyber kill chain

Ada berbagai faktor dalam skenario peretasan OpenAI yang didemonstrasikan oleh HacktronAI. RCE menjadi entry point pada Discourse, tetapi hanya merupakan satu bagian dari rantai serangan.

Para peneliti membajak akun ChatGPT melalui alur SSO situs tersebut dan menggunakan sesi Codex yang terhubung untuk mengakses repository privat GitHub. Kompromi pada aplikasi web tersebut kemudian berubah menjadi akses ke kode internal.

Ketika mengamankan aplikasi, kita perlu memodelkan seluruh jalur serangan. Kita perlu memahami bagaimana attacker dapat bergerak lateral dari akses awal, sistem terhubung apa saja yang dapat dijangkau, dan apa yang dapat dilakukan setelah memperoleh akses.

Tanpa kelemahan SSO atau jalur Codex ke GitHub, temuan tersebut mungkin hanya terlihat seperti insiden kecil pada situs komunitas dan mendapat sedikit perhatian publik. Subsequent action yang dilakukan memang dapat diperdebatkan, tetapi OpenAI beruntung karena pelakunya adalah ethical hacker.

Memutus rantai serangan setelah RCE sama pentingnya dengan mencegah RCE itu sendiri. Tulisan ini berfokus pada pengurangan blast radius dari RCE sebagai entry point, karena subsequent action dapat berbeda pada setiap kasus.

Masa depan application security defense dan engineering

Mayoritas harness application security publik dan perusahaan application security berbasis AI masih berfokus pada pencarian vulnerability. Hanya sedikit yang menggunakan harness untuk merancang defense melalui secure pattern, runtime policy, atau custom sandbox.

Pendekatan ini tidak terbatas pada RCE. Runtime control juga dapat mengurangi dampak SQL injection, broken access control, dan logic bug seperti race condition.

Dulu, proteksi yang sangat customized sering mendapat penolakan karena maintenance cost dan risiko mengganggu sistem yang sudah berjalan. AI dapat mengambil sebagian beban tersebut melalui implementasi, testing, profiling, riset, dan validasi berulang.

Dengan harness yang tepat, security expert dan agent dapat membangun defense-in-depth secara lebih efisien. Kapabilitas AI yang digunakan untuk menulis kode dan menemukan vulnerability juga dapat membantu engineer membangun proteksi yang tahan terhadap serangan tanpa mengorbankan usability atau kemudahan maintenance.