İlk filmin başarısından sonra, yönetmeninden oyuncularına aynı kadroyu koruyarak karşımıza çıkan Siyah Giyen Adamlar 2'de, 'cool' kahramanlarımız Kay ve Jay dört yıllık bir aradan sonra maceralarına geri dönüyorlar. Bu dört yıllık sürede çok şey değişmiş; ilk film, Kay'in sevdiği kadına kavuşup normal bir hayat yaşayabilmesi için ortağı Jay tarafından hafızasının silinmesiyle sonlanmıştı. Nitekim bu film, Jay'in ideal ortağı bir türlü bulamadığı Siyah Giyen Adamlar örgütünden çalışmaya devam ettiğini öğrenmemizle açılıyor. Sıradan bir cinayet olayını araştıran Jay, Serleena isimli, güzel bir kadın kılığına girmiş bir yaratığın dünyaya yerleştirmeye çalıştığı cihaz aracılığıyla birçok gezegene hükmedebilecek bir güce ulaşmaya çalıştığını keşfeder. Serleena'nın bu planını engelleyebilecek bilginin Kay'in silinmiş hafızasında gizli olduğunu öğrenen Jay, eski ortağını yeniden örgüte kazandırmalı ve ona silinmiş hafızasını yeniden yüklemelidir.