la latence la plus faible, le serveur d'applications le moins lourd?

Question

Je suis en train de concevoir une application qui aura une interface réseau pour alimenter un grand nombre de très petites requêtes de métadonnées. Le code de l'application lui-même est très rapide, recherchant essentiellement des données mises en cache dans la mémoire et envoyées au client.

Quelle est la latence la plus faible que je peux obtenir pour un serveur d'applications réseau s'exécutant sur une machine Linux? Ce sera une application interne fonctionnant sur gigE sans authentification. Tout langage/framework pris en compte, avec une préférence pour C, C++ ou Python. De même pour le protocole, bien que HTTP serait bien.

Answer 1

Pour un petit serveur HTTP rapide, vous pouvez jeter un oeil à gatling. Principales caractéristiques:

• libre, opensource
• petit, rapide, évolutive, qui offre des fonctionnalités anti-DOS
• Speaks HTTP, HTTPS/TLS, FTP, IPV6, comprend SMB
• prend en charge SCGI et FastCGI et peut ainsi être utilisé pour exécuter les binaires ELF ou des scripts
• négociation de contenu transparent (sert gz si le client prend en charge)
• fait appel à des raccourcis spécifiques à l'OS pour améliorer les performances
• plusieurs benchmarks inclus

Answer 2

Si elle répond à vos besoins, pensez à C ou C++ et zmq

Bien que, pour une application comme celle de la langue ne serait pas le facteur le plus important d'une vue de la performance. Si vous devez prendre en charge un grand nombre de clients, le modèle de programmation serait le facteur décisif, thread par client (plus lent) ou asynchrone/non bloquant (plus rapide).

Answer 3

Facebook a récemment obtenu son memcached personnalisé à handle 200,000 requests per second with 173 microseconds latency. Vous pouvez read the source code pour voir comment ils l'ont fait. L'un de leurs plus gros changements consistait à abandonner TCP et à utiliser UDP à la place.

Answer 4

G-WAN propose les scripts C et C++ et a été testé à près de 800,000 requests per second.

Je ne sais rien de plus rapide que cela, et many other servers have been tested.