{"id":13,"date":"2010-03-14T20:27:00","date_gmt":"2010-03-14T19:27:00","guid":{"rendered":"http:\/\/beta.expertosenti.com\/2010\/03\/%c2%bfcomo-evitar-que-los-problemas-de-los-usuarios-sean-conviertan-en-nuestros\/"},"modified":"2017-04-24T16:48:48","modified_gmt":"2017-04-24T14:48:48","slug":"como-evitar-que-los-problemas-de-los-usuarios-sean-conviertan-en-nuestros","status":"publish","type":"post","link":"https:\/\/www.xpnti.net\/en\/como-evitar-que-los-problemas-de-los-usuarios-sean-conviertan-en-nuestros\/","title":{"rendered":"\u00bfC\u00f3mo evitar que los problemas de los usuarios sean conviertan en nuestros?"},"content":{"rendered":"

Como comentamos en el post anterior<\/a>, un usuario lento puede impactarnos en el numero de usuarios que podemos soportar en un momento dado. El usuario lento o malintencionado est\u00e1 explotando el hecho que la mayor\u00eda de servidores Web usan un “hijo” por conexi\u00f3n, y la gesti\u00f3n de estos hijos es costosa computacionalmente hablando.
As\u00ed que la mejor forma que tenemos para soportar much\u00edsimos usuarios, lentos o no, es separar la gesti\u00f3n de la conexi\u00f3n de la generaci\u00f3n del objeto a entregar.
Y como no podr\u00eda ser de otra forma, tenemos de todo, desde opciones radicales en cada extremo hasta soluciones h\u00edbridas que intentan ofrecer lo mejor de los dos mundos.<\/p>\n

<\/a><\/div>\n
www.dosisdiarias.com<\/a><\/div>\n
<\/div>\n
En un extremo tenemos los puramente basados en una relaci\u00f3n 1:1 entre conexi\u00f3n e hijo, donde tratan igual las peticiones r\u00e1pidas de c\u00e1lculo (ficheros est\u00e1ticos) que las lentas (peticiones a base de datos, generaci\u00f3n de html personalizados, etc). Aqu\u00ed tendr\u00edamos a nuestros amigos Apache HTTP Server, Apache Tomcat y much\u00edsimos otros basados en ellos. En estos una saturaci\u00f3n de los “pocos” hijos disponibles nos tira el servicio tanto para ficheros est\u00e1ticos como para los din\u00e1micos.<\/div>\n
<\/div>\n
En el otro extremos tenemos los que los hijos no son funci\u00f3n de las conexiones existentes sino de por ejemplo los procesadores de la m\u00e1quina u otros datos de valor fijo. Estos utilizan herramientas como epoll,  kqueue y la mayor\u00eda est\u00e1n inspirados por el problema de las 10.000 conexiones concurrentes<\/a>. Casi todos estos en el fondo hacen “poquito” ya que no pueden ejecutar procedimientos complejos sin separar la ejecuci\u00f3n mediante Threads o procesos. Como hacen “poquito” la mayor\u00eda de veces se acaban montando como frontends de los que si que hacen algo aunque en algunos casos estan dise\u00f1ado para entregar ficheros. En los puramente frontend por ejemplo tendr\u00edamos al Zeus ZXTM<\/a>,un gran acelerador de aplicaciones al que recomiendo dar un vistazo y luego los “web servers” como los nginx<\/a>,lighttpd<\/a>, que aparte de mover conexiones y modificar lo entregado al usuario de varias formas (gzip, cache, rewrites, bandwidth shaping, etc) tambi\u00e9n saben entregar ficheros y hablan FastCGI o CGI donde aqu\u00ed si que ir\u00e1n lanzando procesos m\u00e1s o menos eficientemente.<\/div>\n
<\/div>\n
Y los \u00faltimos, los h\u00edbridos, que he puesto en este saco todos los que tratan por un lado las conexiones simples mediante herramientas no bloqueantes (poll, events, etc…), y que si se encuentran una petici\u00f3n din\u00e1mica la pasan a un worker thread (dentro o fuera de su proceso) de forma que las peticiones a ficheros est\u00e1ticos no te molestan en los workers y mirando Webs aleatorias, tendr\u00edamos una relaci\u00f3n de 50:1 entre ficheros est\u00e1ticos (js, css, im\u00e1genes, v\u00eddeos, etc) y din\u00e1micos (la mayor\u00eda de veces el html y punto). En este saco tenemos los IIS 6, 7 y 7.5<\/a>, Glassfish con Grizzly<\/a> o Resin Pro<\/a>, que de forma “natural” usan funcionalidades del sistema operativo para tratar las conexiones (en el fondo b\u00fafferes) de modo paralelo y cuando les llega algo “raro” lo suben a un Thread de worker, IIS con el ASP.net, Glassfish en Java y Resin en Java y PHP.<\/div>\n
En el fondo se comportan como uno de los “puros” escalables m\u00e1s un daemon funcionando en FastCGI como podr\u00eda ser PHP<\/a>, que por defecto lanza “s\u00f3lo” 8 procesos que depende de la aplicaci\u00f3n ser\u00e1n suficientes o no (si estos PHP lanzan consultas a Facebook que tardan un segundo, como mucho tendr\u00e1s 8 peticiones\/segundo y la CPU al 100% de idle!<\/b>). Pero si que te ahorras todo el tiempo de espera en la descarga del documento si les has asignado suficiente profundidad de b\u00fafer, claro \ud83d\ude1b<\/div>\n
<\/div>\n
En el fondo, en muchos casos no es tan importante como funciona el servidor de aplicaciones ya que en aplicaciones con bastantes usuarios requeriremos de un balanceador y ya que estamos mejor meter un ZXTM o un nginx, activarle cache y dotarle de parte de inteligencia como gzip, rewrites, validaci\u00f3n de par\u00e1metros, etc y dejar a los servidores de aplicaci\u00f3n trabajar s\u00f3lo para la aplicaci\u00f3n y optimizarlos para ella (memoria, threads, etc)<\/div>\n
<\/div>\n
Teniendo en cuenta todo esto podemos llegar a aprovechar mucho m\u00e1s el servidor, cosa que implica, m\u00e1s usuarios por menos euros :D. <\/div>\n
Es una tonter\u00eda pero monitorizar servidores en base a “load avg.” aunque es una m\u00e9trica importante, nos indica que el servidor est\u00e1 esperando algo y no sirviendo a usuarios y si adem\u00e1s el % de idle es alto, indica que tenemos mucho a mejorar a nivel de arquitectura, tanto de HW como SW<\/div>\n
<\/div>\n
Bueno, dir\u00eda que para hoy ya estamos, que sino me voy alargando y salen posts kilom\u00e9tricos<\/div>\n
<\/div>\n
Saludos!<\/div>\n
<\/div>\n
<update>:<\/b> Ayer, antes de empezar la segunda sesi\u00f3n, un Senior Researcher del BSC\/CNS<\/a> que hab\u00eda realizado la tesis sobre escalabilidad en Web Servers me coment\u00f3 que Tomcat lo podr\u00edamos considerar “h\u00edbrido” ya que tenemos un conector HTTP que utiliza NIO en lugar de multiples Threads, as\u00ed que de los grandes s\u00f3lo nos queda Apache que no soporta NIO…<\/update><\/b><\/div>\n

PS: Para aquellos que se est\u00e1n diciendo, es que yo quiero controlar los accesos a mis im\u00e1genes, v\u00eddeos, etc y claro los hago pasar por el PHP, plantearos un sistema de tickets o tokens que sea f\u00e1cil de validar (nada de base de datos) y se lo dej\u00e1is al balanceador o frontend, os ahorrareis un mont\u00f3n de accesos al servidor de aplicaciones.<\/p>\n","protected":false},"excerpt":{"rendered":"

Como comentamos en el post anterior, un usuario lento puede impactarnos en el numero de usuarios que podemos soportar en un momento dado. El usuario lento o malintencionado est\u00e1 explotando el hecho que la mayor\u00eda de servidores Web usan un “hijo” por conexi\u00f3n, y la gesti\u00f3n de estos hijos es costosa computacionalmente hablando.As\u00ed que la[…]<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/www.xpnti.net\/en\/wp-json\/wp\/v2\/posts\/13"}],"collection":[{"href":"https:\/\/www.xpnti.net\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.xpnti.net\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.xpnti.net\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.xpnti.net\/en\/wp-json\/wp\/v2\/comments?post=13"}],"version-history":[{"count":1,"href":"https:\/\/www.xpnti.net\/en\/wp-json\/wp\/v2\/posts\/13\/revisions"}],"predecessor-version":[{"id":202,"href":"https:\/\/www.xpnti.net\/en\/wp-json\/wp\/v2\/posts\/13\/revisions\/202"}],"wp:attachment":[{"href":"https:\/\/www.xpnti.net\/en\/wp-json\/wp\/v2\/media?parent=13"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.xpnti.net\/en\/wp-json\/wp\/v2\/categories?post=13"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.xpnti.net\/en\/wp-json\/wp\/v2\/tags?post=13"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}