Sebulan yang lalu kami mendapat tugas dari perusahaan untuk membangun jaringan VPN (Virtual Private Network) untuk keperluan koneksi mesin produksi yang berada di Indonesia dengan teknisi mesin yang berada di Jerman. Jenis VPN yang kami buat adalah L2TP/IPSec dengan MikroTik CHR sebagai server VPN nya. Setelah semuanya selesai dilakukanlah uji coba untuk koneksi dari VPN client menggunakan smartphone dan berhasil konek ke server VPN.
Namun ketika mencoba mengkoneksikan menggunakan perangkat PC dengan sistem operasi windows 7, kami menemukan vpn error 809 saat mencoba membuat koneksi dengan server VPN. Hal serupa terjadi ketika menggunakan sistem operasi windows 8 maupun windows 10. Pesan error yang muncul seperti berikut :
The network connection between your computer and the VPN server could not be established because the remote server is not responding. This could be because one of the network devices (e.g. firewalls, NAT, routers, etc) between your computer and the remote server is not configured to allow VPN connections. Please contact your Administrator or your service provider to determine which device may be causing the problem.
Setelah mempelajari lebih lanjut, Windows 10 memiliki masalah sporadis dengan implementasinya sendiri dari klien VPN Microsoft (builtin) yang menghubungkan koneksi VPN berbasis L2TP IPSEC yang memanfaatkan strongswan di ujung server. Masalah ini telah memengaruhi build 1709-1903. Mari kita gali lebih dalam dan temukan beberapa solusi. Pertama, ada kumpulan kemungkinan masalah yang memiliki gejala yang sama (koneksi VPN menampilkan Menghubungkan tetapi tidak pernah selesai di Windows 10).
- Server VPN tidak dapat dijangkau pada port 500 atau 4500.
- Terhubung dengan beberapa perangkat Windows dari alamat IP NAT yang sama. Ini adalah batasan yang diketahui untuk Windows dengan Strongswan L2TP.
- Mengalami bug di Windows 1903 yang memanifestasikan dirinya dengan membuat koneksi VPN dengan benar dari dialog Pengaturan tetapi bukan Area Pemberitahuan .
Bagaimana saya bisa memperbaiki kesalahan VPN 809 di Windows 10?
1. Buka port di firewall atau router Anda
Dalam kasus jaringan VPN ini kami menggunakan protokol L2TP/IPsec sehingga memerlukan Port 500 atau 4500 melalui UDP untuk L2TP/IPsec atau IKEv2/IPsec. Pastikan port tersebut dalam keadaan open di firewall atau perangkat router yang digunakan untuk membangun server VPN. Namun jika solusi ini tidak berhasil, berarti kesalahan ada di sisi client dalam hal ini PC dengan sistem operasi windows. Sebab ketika di uji coba dengan smartphone bisa konek ke server VPN. Jika ini tidak memungkinkan, terapkan tunnel berbasis SSTP atau OpenVPN pada penyedia VPN. Ini memungkinkan koneksi VPN untuk bekerja melintasi firewall, NAT, dan proxy web.
2. Lakukan Modifikasi Registry pada Sistem Windows
1. Buka regedit dengan cara klik tombol Windows + R secara bersamaan, ketik regedit lalu Enter.
HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\PolicyAgent
3. Klik kanan pada folder PolicyAgent, klik New --> DWORD (32-bit)
4. Ketik AssumeUDPEncapsulationContextOnSendRule dan tekan Enter
5. Klik dua kali entri AssumeUDPEncapsulationContextOnSendRule. Atur Base ke Hexadesimal
Setel value data ke 2 kemudian klik OK.
6. Restart komputer
