通常情况下，代理ip用公网IP接入Internet，采取双网卡结构。
网络一(假定为公网internet)的终端A访问网络二(假定为公司内网)的终端B，其发出的访问数据包的目标地址为终端B的内部IP地址。
网络一的代理ip网关在接收到终端A发出的访问数据包时，对其目标地址进行检查，如果目标地址属于网络二的地址，则将该数据包进行封装，封装的方式根据所采用的代理ip技术不同而有一定的差异，同时代理ip网关会构造一个新代理ip数据包，并将封装后的原数据包作为代理ip数据包的负载，代理ip数据包的目标地址为网络二的代理ip网关的外部地址。
网络一的代理ip网关将代理ip数据包发送到Internet，由于代理ip数据包的目标地址是网络二的代理ip网关的外部地址，所以该数据包将被Internet中的路由正确地发送到网络二的代理ip网关。
网络二的代理ip网关对接收到的数据包进行检查，如果发现该数据包是从网络一的代理ip网关发出的，即可判定该数据包为代理ip数据包，并对该数据包进行解包处理。
解包的过程主要是先将代理ip数据包的包头剥离，再将数据包反向处理还原成原始的数据包。
网络二的代理ip网关将还原后的原始数据包发送至目标终端B，由于原始数据包的目标地址是终端B的IP，所以该数据包能够被正确地发送到终端B。在终端B看来，它收到的数据包就和从终端A直接发过来的一样。
从终端B返回终端A的数据包处理过程和上述过程一样，这样两个网络内的终端就可以相互通讯了。
通过上述说明可以发现，在代理ip网关对数据包进行处理时，有两个参数对于代理ip通讯十分重要：原始数据包的目标地址(代理ip目标地址)和远程代理ip网关地址。根据代理ip目标地址，代理ip网关能够判断对哪些数据包进行代理ip处理，对于不需要处理的数据包通常情况下可直接转发到上级路由。
远程代理ip网关地址则指定了处理后的代理ip数据包发送的目标地址，即代理ip隧道的另一端代理ip网关地址。由于网络通讯是双向的，在进行代理ip通讯时，隧道两端的代理ip网关都必须知道代理ip目标地址和与此对应的远端代理ip网关地址。