这是一个创建于 3343 天前的主题，其中的信息可能已经有所发展或是发生改变。
具体是这样的， 现在有个服务，是基于 JAVA Netty 的，
有一个线程在不断产生数据，基本每一秒都会有新的数据，当这个数据产生后，需要尽快的发送到所有关心这个数据的客户端，对时间很敏感，最敏感的， 1S 内都要发送完。
Netty 的话，我看用 ChannelGroup.write() 也没有并发的执行
有什么样的方案可以做到这样的事情？
查了一些资料，有些在 JAVA 上实现轻量级线程，比如 Quasar ， 但具体应用资料很少。
另外， Golang 是不是很容易干这种事情？
 |
1
ritksm 2015-11-02 02:42:47 +08:00
MQ 消息 fanout
|
 |
3
jedihy 2015-11-02 03:27:31 +08:00
如果你这里的广播不是指的 IP broadcast 的话， 1s 30K 有可能理论上都发不出去啊。你要计算一下消息大小 X 30K X 1s 是多少数据量，你的带宽够吗？实现的话，可以用非阻塞 IO 来发，搞 N 个进程，每个进程上跑一个非阻塞 IO 。把消息分发到这些进程然后让他们发送，把 CPU 和网卡资源利用满。
|
 |
4
naquda OP @jedihy 消息本身不大，一个消息 20byte 左右， 1S 30K ，带宽应该不是问题，但是这个消息时间敏感，需要尽快的发出去
目前是这样的， 客户端会去主动去问服务端拿新的消息，这个消息在服务端，是由其他线程更新的（一个写， N 个读），但有时候，会刚好在消息被更新之前，拿到老的消息，导致客户端要再次不断去问服务器拿新的消息，现在 Netty 来处理这个并发是没问题的 但我想，有么有可能服务端在消息更新的时候，主动发送到每个关心它的客户端，主要是要尽可能快的发送给所有客户端， 用进程或者线程池来处理，还是很麻烦， 因为有不止一个消息，几乎没秒都有消息在更新，然后关心这个消息的客户端有多也有少，多的夸张点，有 30K ， 少点也有几 K ， 所有我找到有 JAVA 的轻量级线程实现比如 Quasar ， 但，我还不知道可不可以，以及怎么和 NETTY 一起用 |
 |
5
patrickstar 2015-11-02 08:07:31 +08:00
如果不能多播估计是不现实的， java 不懂，看看你采用的中间件的能力
|
 |
6
chinawrj 2015-11-02 08:09:49 +08:00
@naquda 只要消息小于 1K ，对于网卡的负载影响不是很大吧。反正你要一秒内发送 30K 个 skb_buf 。先用 C 语言写个微型 TCP server ，然后用 30K 的客户端测试一下。看看能不能搞定这个事情。也就半天就能写好的事情。目测一般服务器搞不定
|
 |
7
beneo 2015-11-02 08:24:35 +08:00
消息中间件不就是干这个的么？非要自己写？
|
|
8
beneo 2015-11-02 08:24:58 +08:00
rabbitmq
|
 |
9
fsneak 2015-11-02 08:34:36 +08:00 via iPhone
嗯…虽然我不是很熟悉…不过 netty 的线程模型应该是每个客户端连接的读写都是单线程的，每个线程处理多个连接，有多个这样的线程吧？既然最底层是这样，那再在上层考虑并发应该没啥意思吧…？
|
 |
10
AstroProfundis 2015-11-02 08:48:22 +08:00
这样的需求应该搞个消息中间件...典型场景...
|
 |
11
yghack 2015-11-02 08:53:24 +08:00
单服务器搞不定的。
|
 |
12
master13 2015-11-02 08:56:38 +08:00
把客户端的名字改为“ 30K ”，然后 1 秒钟发给他......
|
 |
13
lhbc 2015-11-02 09:20:04 +08:00 via iPhone
用 UDP ，不要用 TCP
你的消息只有 20 Byte ，但是加上 TCP 握手等开销，流量多了好几倍。 随便一个高级语言都能搞定。 |
 |
14
ixiaohei 2015-11-02 09:30:42 +08:00
赶紧 1 秒钟单机干不了
|
|
15
ixiaohei 2015-11-02 09:30:56 +08:00
感觉 打错了
|
 |
16
ruosu0710 2015-11-02 09:58:41 +08:00
用一楼的 MQ 方式:ActiveMQ 或者 RabbitMQ Topic 模式
|
 |
17
SparkMan 2015-11-02 12:39:06 +08:00
推荐使用 ZeroMq （“史上最快的消息队列”），用发布订阅模型。跟上面说的 ActiveMQ 或者 RabbitMQ 完全不同，他俩的速度肯定跟不上； ZeroMQ 不能持久化，但是特别快，是要取代 socket 的
|
|
18
SparkMan 2015-11-02 12:40:52 +08:00
ActiveMQ 或者 RabbitMQ 之所以觉得慢，是因为跟 Kafka 比要慢很多，所以推荐你用 ZeroMQ
|
 |
19
Comdex 2015-11-02 12:55:42 +08:00
golang 的 nsq
|
|
20
naquda OP 谢谢各位， 先研究一下各位提供的方案
|
 |
21
znoodl 2015-11-02 17:45:16 +08:00 via iPhone
zeromq push pull
|
|
22
znoodl 2015-11-02 17:45:59 +08:00 via iPhone
错了 pub sub
|
 |
23
anexplore 2015-11-02 18:13:55 +08:00
@SparkMan 能否分享一下 rabbitmq 比 kafka 慢很多的场景？我以前做过 2 组测试，消息大小分别为 1k 与 40kb 的时候， rabbitmq 与 kafka （ batch 设为 100 ）性能不相上下。
|
|
24
naquda OP 研究了下 ZeroMQ ， 目前还很难用上这些技术， 主要是因为这个客户端也要做相应的修改，而我这的客户端比较特殊，并不是 X86 平台， PORTING 这些库，带来更多的未知风险， 所以还是要在传统的 SOCKET 上实现
|
 |
25
pkking 2015-11-02 18:16:11 +08:00
socket 中的广播或者多播可以满足你
|
Select Language