Skip to content

RPC通信原理解析

HDFS、YARN、MapReduce三者之间调用通过RPC通信进行数据交互

1. 使用Hadoop的RPC简单实现

模拟RPC的客户端、服务端、通信协议三者如何工作的

  1. 创建RPC协议
java
public interface RPCProtocol {
    long versionID = 123L; 

    void mkdirs(String s);
}
  1. 创建RPC服务端
java
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.ipc.RPC;

import java.io.IOException;

public class NNServer implements RPCProtocol{
    @Override
    public void mkdirs(String path) {
        System.out.println("服务器创建目录:" + path);
    }

    public static void main(String[] args) throws IOException {
        RPC.Server server = new RPC.Builder(new Configuration())
                .setBindAddress("localhost")
                .setPort(9090)
                .setProtocol(RPCProtocol.class)
                .setInstance(new NNServer())
                .build();
        System.out.println("服务器开始工作");
        server.start();

    }
}
  1. 创建RPC客户端
java
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.ipc.RPC;

import java.io.IOException;
import java.net.InetSocketAddress;

public class HDFSClient {
    public static void main(String[] args) throws IOException {
        com.rocket.rpc.RPCProtocol client = RPC.getProxy(RPCProtocol.class,
                RPCProtocol.versionID,
                new InetSocketAddress("localhost", 9090),
                new Configuration());
        System.out.println("我是客户端");
        client.mkdirs("/input");
    }
}
  1. 运行测试 启动服务端NNServer 观察控制台打印:服务器开始工作 在控制台Terminal窗口输入,jps,查看到NNServer服务 Alt text
cmd
C:\Users\mi>jps
13300 RemoteMavenServer36
17012 Jps
344 Launcher
15676 NNServer

启动客户端HDFSClient Alt text 服务端控制台打印:创建路径/input Alt text