Penelitian ini berfokus pada penerapan Generative Pre-trained Transformer 4 (GPT-4) dalam pembuatan simulasi serangan phishing yang autentik, serta evaluasi kesadaran dan kesiapsiagaan dalam menghadapi serangan tersebut. Metodologi penelitian ini mencakup simulasi serangan phishing yang dibuat menggunakan GPT-4 dan wawancara terhadap responden untuk mengukur reaksi dan persepsi mereka. Hasil eksperimen menunjukkan bahwa strategi prompting berbasis user profile menjadikan GPT-4 mampu menghasilkan pesan phishing yang meyakinkan 80% dari responden. Lebih lanjut, simulasi ini berhasil meningkatkan kesadaran terhadap ancaman phishing pada 94% responden. Responden sejumlah 50 orang terdiri dari 88% setelah mengikuti simulasi merasa lebih siap akan serangan phishing. Meskipun demikian, 89% dari responden dalam penelitian ini mengidentifikasi kebutuhan untuk peningkatan strategi dan kesiapsiagaan dalam keamanan siber. Penelitian ini menekankan perlunya strategi keamanan siber yang inovatif, yang menggabungkan pemahaman tentang perilaku manusia dan pemanfaatan teknologi AI, untuk mengidentifikasi dan mengurangi risiko penyalahgunaan teknologi. Dari 88% responden menyarankan untuk pendekatan pelatihan dan edukasi yang lebih terfokus, serta pengembangan teknologi deteksi yang lebih maju, menjadi krusial untuk memperkuat pertahanan terhadap serangan phishing yang semakin kompleks.