source: lib/http_client.c @ c0f33f1

Last change on this file since c0f33f1 was 2423c93, checked in by Wilmer van der Gaast <wilmer@…>, at 2011-04-18T14:14:28Z

Send Connection: close headers so webservers won't try keepalive connections
which http_client really can't deal with.

  • Property mode set to 100644
File size: 10.6 KB
RevLine 
[8a9afe4]1  /********************************************************************\
2  * BitlBee -- An IRC to other IM-networks gateway                     *
3  *                                                                    *
4  * Copyright 2002-2005 Wilmer van der Gaast and others                *
5  \********************************************************************/
6
[52b3a99]7/* HTTP(S) module                                                       */
[8a9afe4]8
9/*
10  This program is free software; you can redistribute it and/or modify
11  it under the terms of the GNU General Public License as published by
12  the Free Software Foundation; either version 2 of the License, or
13  (at your option) any later version.
14
15  This program is distributed in the hope that it will be useful,
16  but WITHOUT ANY WARRANTY; without even the implied warranty of
17  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18  GNU General Public License for more details.
19
20  You should have received a copy of the GNU General Public License with
21  the Debian GNU/Linux distribution in /usr/share/common-licenses/GPL;
22  if not, write to the Free Software Foundation, Inc., 59 Temple Place,
23  Suite 330, Boston, MA  02111-1307  USA
24*/
25
26#include <string.h>
[52b3a99]27#include <stdio.h>
[8a9afe4]28
29#include "http_client.h"
[52b3a99]30#include "url.h"
[e4d6271]31#include "sock.h"
[8a9afe4]32
33
[ba9edaa]34static gboolean http_connected( gpointer data, int source, b_input_condition cond );
35static gboolean http_ssl_connected( gpointer data, void *source, b_input_condition cond );
36static gboolean http_incoming_data( gpointer data, int source, b_input_condition cond );
[516a9c6]37static void http_free( struct http_request *req );
[8a9afe4]38
39
[516a9c6]40struct http_request *http_dorequest( char *host, int port, int ssl, char *request, http_input_function func, gpointer data )
[8a9afe4]41{
42        struct http_request *req;
43        int error = 0;
44       
45        req = g_new0( struct http_request, 1 );
46       
47        if( ssl )
48        {
49                req->ssl = ssl_connect( host, port, http_ssl_connected, req );
50                if( req->ssl == NULL )
51                        error = 1;
52        }
53        else
54        {
55                req->fd = proxy_connect( host, port, http_connected, req );
56                if( req->fd < 0 )
57                        error = 1;
58        }
59       
60        if( error )
61        {
[fb98634]62                http_free( req );
63                return NULL;
[8a9afe4]64        }
65       
[52b3a99]66        req->func = func;
67        req->data = data;
[8a9afe4]68        req->request = g_strdup( request );
69        req->request_length = strlen( request );
[7885d0f]70        req->redir_ttl = 3;
[8a9afe4]71       
72        return( req );
73}
74
[516a9c6]75struct http_request *http_dorequest_url( char *url_string, http_input_function func, gpointer data )
[0790644]76{
77        url_t *url = g_new0( url_t, 1 );
78        char *request;
79        void *ret;
80       
81        if( !url_set( url, url_string ) )
82        {
83                g_free( url );
84                return NULL;
85        }
86       
87        if( url->proto != PROTO_HTTP && url->proto != PROTO_HTTPS )
88        {
89                g_free( url );
90                return NULL;
91        }
92       
93        request = g_strdup_printf( "GET %s HTTP/1.0\r\n"
94                                   "Host: %s\r\n"
[2423c93]95                                   "Connection: close\r\n"
[1b5ab36]96                                   "User-Agent: BitlBee " BITLBEE_VERSION " " ARCH "/" CPU "\r\n"
[0790644]97                                   "\r\n", url->file, url->host );
98       
99        ret = http_dorequest( url->host, url->port,
100                              url->proto == PROTO_HTTPS, request, func, data );
101       
102        g_free( url );
103        g_free( request );
[266fe2f]104        return ret;
[0790644]105}
106
[8a9afe4]107/* This one is actually pretty simple... Might get more calls if we can't write
108   the whole request at once. */
[ba9edaa]109static gboolean http_connected( gpointer data, int source, b_input_condition cond )
[8a9afe4]110{
111        struct http_request *req = data;
112        int st;
113       
114        if( source < 0 )
115                goto error;
116       
117        if( req->inpa > 0 )
[ba9edaa]118                b_event_remove( req->inpa );
[8a9afe4]119       
120        sock_make_nonblocking( req->fd );
121       
122        if( req->ssl )
123        {
124                st = ssl_write( req->ssl, req->request + req->bytes_written,
125                                req->request_length - req->bytes_written );
126                if( st < 0 )
127                {
128                        if( ssl_errno != SSL_AGAIN )
129                        {
130                                ssl_disconnect( req->ssl );
131                                goto error;
132                        }
133                }
134        }
135        else
136        {
137                st = write( source, req->request + req->bytes_written,
138                                    req->request_length - req->bytes_written );
139                if( st < 0 )
140                {
141                        if( !sockerr_again() )
142                        {
[52b3a99]143                                closesocket( req->fd );
[8a9afe4]144                                goto error;
145                        }
146                }
147        }
148       
149        if( st > 0 )
150                req->bytes_written += st;
151       
152        if( req->bytes_written < req->request_length )
[ba9edaa]153                req->inpa = b_input_add( source,
[e046390]154                                         req->ssl ? ssl_getdirection( req->ssl ) : B_EV_IO_WRITE,
[ba9edaa]155                                         http_connected, req );
[8a9afe4]156        else
[e046390]157                req->inpa = b_input_add( source, B_EV_IO_READ, http_incoming_data, req );
[8a9afe4]158       
[ba9edaa]159        return FALSE;
[8a9afe4]160       
161error:
[7deb447]162        req->status_string = g_strdup( "Error while writing HTTP request" );
163       
[8a9afe4]164        req->func( req );
[fb98634]165        http_free( req );
[ba9edaa]166        return FALSE;
[8a9afe4]167}
168
[ba9edaa]169static gboolean http_ssl_connected( gpointer data, void *source, b_input_condition cond )
[8a9afe4]170{
171        struct http_request *req = data;
172       
173        if( source == NULL )
174                return http_connected( data, -1, cond );
175       
176        req->fd = ssl_getfd( source );
177       
178        return http_connected( data, req->fd, cond );
179}
180
[ba9edaa]181static gboolean http_incoming_data( gpointer data, int source, b_input_condition cond )
[8a9afe4]182{
183        struct http_request *req = data;
184        int evil_server = 0;
185        char buffer[2048];
186        char *end1, *end2;
187        int st;
188       
189        if( req->inpa > 0 )
[ba9edaa]190                b_event_remove( req->inpa );
[8a9afe4]191       
192        if( req->ssl )
193        {
194                st = ssl_read( req->ssl, buffer, sizeof( buffer ) );
195                if( st < 0 )
196                {
197                        if( ssl_errno != SSL_AGAIN )
198                        {
[ad8b8a3]199                                /* goto cleanup; */
200                               
201                                /* YAY! We have to deal with crappy Microsoft
202                                   servers that LOVE to send invalid TLS
203                                   packets that abort connections! \o/ */
204                               
205                                goto got_reply;
[8a9afe4]206                        }
207                }
208                else if( st == 0 )
209                {
210                        goto got_reply;
211                }
212        }
213        else
214        {
215                st = read( req->fd, buffer, sizeof( buffer ) );
216                if( st < 0 )
217                {
218                        if( !sockerr_again() )
219                        {
[7deb447]220                                req->status_string = g_strdup( strerror( errno ) );
[8a9afe4]221                                goto cleanup;
222                        }
223                }
224                else if( st == 0 )
225                {
226                        goto got_reply;
227                }
228        }
229       
230        if( st > 0 )
231        {
232                req->reply_headers = g_realloc( req->reply_headers, req->bytes_read + st + 1 );
233                memcpy( req->reply_headers + req->bytes_read, buffer, st );
[52b3a99]234                req->bytes_read += st;
[8a9afe4]235        }
236       
237        /* There will be more! */
[ba9edaa]238        req->inpa = b_input_add( req->fd,
[e046390]239                                 req->ssl ? ssl_getdirection( req->ssl ) : B_EV_IO_READ,
[ba9edaa]240                                 http_incoming_data, req );
[8a9afe4]241       
[ba9edaa]242        return FALSE;
[8a9afe4]243
244got_reply:
[0602496]245        /* Maybe if the webserver is overloaded, or when there's bad SSL
246           support... */
247        if( req->bytes_read == 0 )
[7deb447]248        {
249                req->status_string = g_strdup( "Empty HTTP reply" );
[0602496]250                goto cleanup;
[7deb447]251        }
[0602496]252       
[8a9afe4]253        /* Zero termination is very convenient. */
254        req->reply_headers[req->bytes_read] = 0;
255       
256        /* Find the separation between headers and body, and keep stupid
257           webservers in mind. */
258        end1 = strstr( req->reply_headers, "\r\n\r\n" );
259        end2 = strstr( req->reply_headers, "\n\n" );
260       
261        if( end2 && end2 < end1 )
262        {
[52b3a99]263                end1 = end2 + 1;
[8a9afe4]264                evil_server = 1;
265        }
[0eec386]266        else if( end1 )
[52b3a99]267        {
268                end1 += 2;
269        }
[0eec386]270        else
[8a9afe4]271        {
[7deb447]272                req->status_string = g_strdup( "Malformed HTTP reply" );
[0eec386]273                goto cleanup;
[52b3a99]274        }
275       
[0eec386]276        *end1 = 0;
277       
278        if( evil_server )
279                req->reply_body = end1 + 1;
280        else
281                req->reply_body = end1 + 2;
282       
[41e5202]283        req->body_size = req->reply_headers + req->bytes_read - req->reply_body;
[0eec386]284       
[52b3a99]285        if( ( end1 = strchr( req->reply_headers, ' ' ) ) != NULL )
286        {
287                if( sscanf( end1 + 1, "%d", &req->status_code ) != 1 )
[7deb447]288                {
289                        req->status_string = g_strdup( "Can't parse status code" );
[52b3a99]290                        req->status_code = -1;
[7deb447]291                }
292                else
293                {
294                        char *eol;
295                       
296                        if( evil_server )
297                                eol = strchr( end1, '\n' );
298                        else
299                                eol = strchr( end1, '\r' );
300                       
301                        req->status_string = g_strndup( end1 + 1, eol - end1 - 1 );
302                       
303                        /* Just to be sure... */
304                        if( ( eol = strchr( req->status_string, '\r' ) ) )
305                                *eol = 0;
306                        if( ( eol = strchr( req->status_string, '\n' ) ) )
307                                *eol = 0;
308                }
[52b3a99]309        }
310        else
311        {
[7deb447]312                req->status_string = g_strdup( "Can't locate status code" );
[52b3a99]313                req->status_code = -1;
314        }
315       
[7885d0f]316        if( ( req->status_code == 301 || req->status_code == 302 ) && req->redir_ttl-- > 0 )
[52b3a99]317        {
318                char *loc, *new_request, *new_host;
319                int error = 0, new_port, new_proto;
320               
[7deb447]321                /* We might fill it again, so let's not leak any memory. */
322                g_free( req->status_string );
323                req->status_string = NULL;
324               
[52b3a99]325                loc = strstr( req->reply_headers, "\nLocation: " );
326                if( loc == NULL ) /* We can't handle this redirect... */
[7deb447]327                {
328                        req->status_string = g_strdup( "Can't locate Location: header" );
[52b3a99]329                        goto cleanup;
[7deb447]330                }
[52b3a99]331               
332                loc += 11;
333                while( *loc == ' ' )
334                        loc ++;
335               
336                /* TODO/FIXME: Possibly have to handle relative redirections,
337                   and rewrite Host: headers. Not necessary for now, it's
338                   enough for passport authentication like this. */
339               
340                if( *loc == '/' )
341                {
342                        /* Just a different pathname... */
343                       
344                        /* Since we don't cache the servername, and since we
345                           don't need this yet anyway, I won't implement it. */
346                       
[7deb447]347                        req->status_string = g_strdup( "Can't handle recursive redirects" );
348                       
[52b3a99]349                        goto cleanup;
350                }
[8a9afe4]351                else
[52b3a99]352                {
353                        /* A whole URL */
354                        url_t *url;
355                        char *s;
356                       
357                        s = strstr( loc, "\r\n" );
358                        if( s == NULL )
359                                goto cleanup;
360                       
361                        url = g_new0( url_t, 1 );
362                        *s = 0;
363                       
364                        if( !url_set( url, loc ) )
365                        {
[7deb447]366                                req->status_string = g_strdup( "Malformed redirect URL" );
[52b3a99]367                                g_free( url );
368                                goto cleanup;
369                        }
370                       
371                        /* Okay, this isn't fun! We have to rebuild the request... :-( */
372                        new_request = g_malloc( req->request_length + strlen( url->file ) );
373                       
374                        /* So, now I just allocated enough memory, so I'm
375                           going to use strcat(), whether you like it or not. :-) */
376                       
[fe23720]377                        sprintf( new_request, "GET %s HTTP/1.0", url->file );
[52b3a99]378                       
379                        s = strstr( req->request, "\r\n" );
380                        if( s == NULL )
381                        {
[7deb447]382                                req->status_string = g_strdup( "Error while rebuilding request string" );
[52b3a99]383                                g_free( new_request );
384                                g_free( url );
385                                goto cleanup;
386                        }
387                       
[fe23720]388                        strcat( new_request, s );
[52b3a99]389                        new_host = g_strdup( url->host );
390                        new_port = url->port;
391                        new_proto = url->proto;
392                       
393                        g_free( url );
394                }
395               
396                if( req->ssl )
397                        ssl_disconnect( req->ssl );
398                else
399                        closesocket( req->fd );
400               
401                req->fd = -1;
[7deb447]402                req->ssl = NULL;
[52b3a99]403               
404                if( new_proto == PROTO_HTTPS )
405                {
406                        req->ssl = ssl_connect( new_host, new_port, http_ssl_connected, req );
407                        if( req->ssl == NULL )
408                                error = 1;
409                }
410                else
411                {
412                        req->fd = proxy_connect( new_host, new_port, http_connected, req );
413                        if( req->fd < 0 )
414                                error = 1;
415                }
[2db811a]416                g_free( new_host );
[52b3a99]417               
418                if( error )
419                {
[7deb447]420                        req->status_string = g_strdup( "Connection problem during redirect" );
[52b3a99]421                        g_free( new_request );
422                        goto cleanup;
423                }
424               
425                g_free( req->request );
426                g_free( req->reply_headers );
427                req->request = new_request;
428                req->request_length = strlen( new_request );
429                req->bytes_read = req->bytes_written = req->inpa = 0;
430                req->reply_headers = req->reply_body = NULL;
431               
[ba9edaa]432                return FALSE;
[8a9afe4]433        }
434       
435        /* Assume that a closed connection means we're finished, this indeed
436           breaks with keep-alive connections and faulty connections. */
437        req->finished = 1;
438
439cleanup:
440        if( req->ssl )
441                ssl_disconnect( req->ssl );
442        else
[52b3a99]443                closesocket( req->fd );
[8a9afe4]444       
445        req->func( req );
[fb98634]446        http_free( req );
447        return FALSE;
448}
449
[516a9c6]450static void http_free( struct http_request *req )
[fb98634]451{
[8a9afe4]452        g_free( req->request );
453        g_free( req->reply_headers );
[7deb447]454        g_free( req->status_string );
[8a9afe4]455        g_free( req );
456}
[fb98634]457
Note: See TracBrowser for help on using the repository browser.