4061c7b11d6a27b70cbc8643d9826b88d41703cb
[openvswitch] / datapath / vport-capwap.c
1 /*
2  * Copyright (c) 2007-2012 Nicira, Inc.
3  * Distributed under the terms of the GNU GPL version 2.
4  *
5  * Significant portions of this file may be copied from parts of the Linux
6  * kernel, by Linus Torvalds and others.
7  */
8
9 #define pr_fmt(fmt) KBUILD_MODNAME ": " fmt
10
11 #include <linux/version.h>
12 #if LINUX_VERSION_CODE >= KERNEL_VERSION(2,6,26)
13
14 #include <linux/if.h>
15 #include <linux/in.h>
16 #include <linux/ip.h>
17 #include <linux/list.h>
18 #include <linux/net.h>
19 #include <net/net_namespace.h>
20
21 #include <net/icmp.h>
22 #include <net/inet_frag.h>
23 #include <net/ip.h>
24 #include <net/protocol.h>
25 #include <net/udp.h>
26
27 #include "datapath.h"
28 #include "tunnel.h"
29 #include "vport.h"
30 #include "vport-generic.h"
31
32 #define CAPWAP_SRC_PORT 58881
33 #define CAPWAP_DST_PORT 58882
34
35 #define CAPWAP_FRAG_TIMEOUT (30 * HZ)
36 #define CAPWAP_FRAG_MAX_MEM (256 * 1024)
37 #define CAPWAP_FRAG_PRUNE_MEM (192 * 1024)
38 #define CAPWAP_FRAG_SECRET_INTERVAL (10 * 60 * HZ)
39
40 /*
41  * The CAPWAP header is a mess, with all kinds of odd size bit fields that
42  * cross byte boundaries, which are difficult to represent correctly in
43  * various byte orderings.  Luckily we only care about a few permutations, so
44  * statically create them and we can do very fast parsing by checking all 12
45  * fields in one go.
46  */
47 #define CAPWAP_PREAMBLE_MASK __cpu_to_be32(0xFF000000)
48 #define CAPWAP_HLEN_SHIFT    17
49 #define CAPWAP_HLEN_MASK     __cpu_to_be32(0x00F80000)
50 #define CAPWAP_RID_MASK      __cpu_to_be32(0x0007C000)
51 #define CAPWAP_WBID_MASK     __cpu_to_be32(0x00003E00)
52 #define CAPWAP_F_MASK        __cpu_to_be32(0x000001FF)
53
54 #define CAPWAP_F_FRAG        __cpu_to_be32(0x00000080)
55 #define CAPWAP_F_LASTFRAG    __cpu_to_be32(0x00000040)
56 #define CAPWAP_F_WSI         __cpu_to_be32(0x00000020)
57 #define CAPWAP_F_RMAC        __cpu_to_be32(0x00000010)
58
59 #define CAPWAP_RMAC_LEN      4
60
61 /*  Standard CAPWAP looks for a WBID value of 2.
62  *  When we insert WSI field, use WBID value of 30, which has been
63  *  proposed for all "experimental" usage - users with no reserved WBID value
64  *  of their own.
65 */
66 #define CAPWAP_WBID_30   __cpu_to_be32(0x00003C00)
67 #define CAPWAP_WBID_2    __cpu_to_be32(0x00000200)
68
69 #define FRAG_HDR (CAPWAP_F_FRAG)
70 #define FRAG_LAST_HDR (FRAG_HDR | CAPWAP_F_LASTFRAG)
71
72 /* Keyed packet, WBID 30, and length long enough to include WSI key */
73 #define CAPWAP_KEYED (CAPWAP_WBID_30 | CAPWAP_F_WSI | htonl(20 << CAPWAP_HLEN_SHIFT))
74 /* A backward-compatible packet, WBID 2 and length of 2 words (no WSI fields) */
75 #define CAPWAP_NO_WSI (CAPWAP_WBID_2 | htonl(8 << CAPWAP_HLEN_SHIFT))
76
77 /* Mask for all parts of header that must be 0. */
78 #define CAPWAP_ZERO_MASK (CAPWAP_PREAMBLE_MASK | \
79                 (CAPWAP_F_MASK ^ (CAPWAP_F_WSI | CAPWAP_F_FRAG | CAPWAP_F_LASTFRAG | CAPWAP_F_RMAC)))
80
81 struct capwaphdr {
82         __be32 begin;
83         __be16 frag_id;
84         /* low 3 bits of frag_off are reserved */
85         __be16 frag_off;
86 };
87
88 /*
89  * We use the WSI field to hold additional tunnel data.
90  * The first eight bits store the size of the wsi data in bytes.
91  */
92 struct capwaphdr_wsi {
93         u8 wsi_len;
94         u8 flags;
95         __be16 reserved_padding;
96 };
97
98 struct capwaphdr_wsi_key {
99         __be64 key;
100 };
101
102 /* Flag indicating a 64bit key is stored in WSI data field */
103 #define CAPWAP_WSI_F_KEY64 0x80
104
105 static struct capwaphdr *capwap_hdr(const struct sk_buff *skb)
106 {
107         return (struct capwaphdr *)(udp_hdr(skb) + 1);
108 }
109
110 /*
111  * The fragment offset is actually the high 13 bits of the last 16 bit field,
112  * so we would normally need to right shift 3 places.  However, it stores the
113  * offset in 8 byte chunks, which would involve a 3 place left shift.  So we
114  * just mask off the last 3 bits and be done with it.
115  */
116 #define FRAG_OFF_MASK (~0x7U)
117
118 /*
119  * The minimum header length.  The header may be longer if the optional
120  * WSI field is used.
121  */
122 #define CAPWAP_MIN_HLEN (sizeof(struct udphdr) + sizeof(struct capwaphdr))
123
124 struct frag_match {
125         __be32 saddr;
126         __be32 daddr;
127         __be16 id;
128 };
129
130 struct frag_queue {
131         struct inet_frag_queue ifq;
132         struct frag_match match;
133 };
134
135 struct frag_skb_cb {
136         u16 offset;
137 };
138 #define FRAG_CB(skb) ((struct frag_skb_cb *)(skb)->cb)
139
140 static struct sk_buff *fragment(struct sk_buff *, const struct vport *,
141                                 struct dst_entry *dst, unsigned int hlen);
142 static struct sk_buff *defrag(struct sk_buff *, bool frag_last);
143
144 static void capwap_frag_init(struct inet_frag_queue *, void *match);
145 static unsigned int capwap_frag_hash(struct inet_frag_queue *);
146 static int capwap_frag_match(struct inet_frag_queue *, void *match);
147 static void capwap_frag_expire(unsigned long ifq);
148
149 static struct inet_frags frag_state = {
150         .constructor    = capwap_frag_init,
151         .qsize          = sizeof(struct frag_queue),
152         .hashfn         = capwap_frag_hash,
153         .match          = capwap_frag_match,
154         .frag_expire    = capwap_frag_expire,
155         .secret_interval = CAPWAP_FRAG_SECRET_INTERVAL,
156 };
157
158 static void get_capwap_param(const struct tnl_mutable_config *mutable,
159                         const struct ovs_key_ipv4_tunnel *tun_key,
160                         u32 *flags,  __be64 *out_key)
161 {
162         if (tun_key->ipv4_dst) {
163                 *flags = 0;
164
165                 if (tun_key->tun_flags & OVS_FLOW_TNL_F_KEY)
166                         *flags = TNL_F_OUT_KEY_ACTION;
167                 if (tun_key->tun_flags & OVS_FLOW_TNL_F_CSUM)
168                         *flags |= TNL_F_CSUM;
169                 *out_key = tun_key->tun_id;
170         } else {
171                 *flags = mutable->flags;
172                 if (mutable->flags & TNL_F_OUT_KEY_ACTION)
173                         *out_key = tun_key->tun_id;
174                 else
175                         *out_key = mutable->out_key;
176
177         }
178 }
179
180 static int capwap_hdr_len(const struct tnl_mutable_config *mutable,
181                           const struct ovs_key_ipv4_tunnel *tun_key)
182 {
183         int size = CAPWAP_MIN_HLEN;
184         u32 flags;
185         __be64 out_key;
186
187         get_capwap_param(mutable, tun_key, &flags, &out_key);
188
189         /* CAPWAP has no checksums. */
190         if (flags & TNL_F_CSUM)
191                 return -EINVAL;
192
193         /* if keys are specified, then add WSI field */
194         if (out_key || (flags & TNL_F_OUT_KEY_ACTION)) {
195                 size += sizeof(struct capwaphdr_wsi) +
196                         sizeof(struct capwaphdr_wsi_key);
197         }
198
199         return size;
200 }
201
202 static void capwap_build_header(const struct vport *vport,
203                                 const struct tnl_mutable_config *mutable,
204                                 const struct ovs_key_ipv4_tunnel *tun_key,
205                                 void *header)
206 {
207         struct udphdr *udph = header;
208         struct capwaphdr *cwh = (struct capwaphdr *)(udph + 1);
209         u32 flags;
210         __be64 out_key;
211
212         get_capwap_param(mutable, tun_key, &flags, &out_key);
213
214         udph->source = htons(CAPWAP_SRC_PORT);
215         udph->dest = htons(CAPWAP_DST_PORT);
216         udph->check = 0;
217
218         cwh->frag_id = 0;
219         cwh->frag_off = 0;
220
221         if (out_key || (flags & TNL_F_OUT_KEY_ACTION)) {
222                 struct capwaphdr_wsi *wsi = (struct capwaphdr_wsi *)(cwh + 1);
223
224                 cwh->begin = CAPWAP_KEYED;
225
226                 /* -1 for wsi_len byte, not included in length as per spec */
227                 wsi->wsi_len = sizeof(struct capwaphdr_wsi) - 1
228                         + sizeof(struct capwaphdr_wsi_key);
229                 wsi->flags = CAPWAP_WSI_F_KEY64;
230                 wsi->reserved_padding = 0;
231
232                 if (out_key) {
233                         struct capwaphdr_wsi_key *opt = (struct capwaphdr_wsi_key *)(wsi + 1);
234                         opt->key = out_key;
235                 }
236         } else {
237                 /* make packet readable by old capwap code */
238                 cwh->begin = CAPWAP_NO_WSI;
239         }
240 }
241
242 static struct sk_buff *capwap_update_header(const struct vport *vport,
243                                             const struct tnl_mutable_config *mutable,
244                                             struct dst_entry *dst,
245                                             struct sk_buff *skb,
246                                             int tunnel_hlen)
247 {
248         const struct ovs_key_ipv4_tunnel *tun_key = OVS_CB(skb)->tun_key;
249         struct udphdr *udph = udp_hdr(skb);
250         u32 flags;
251         __be64 out_key;
252
253         get_capwap_param(mutable, tun_key, &flags, &out_key);
254
255         if (flags & TNL_F_OUT_KEY_ACTION) {
256                 /* first field in WSI is key */
257                 struct capwaphdr *cwh = (struct capwaphdr *)(udph + 1);
258                 struct capwaphdr_wsi *wsi = (struct capwaphdr_wsi *)(cwh + 1);
259                 struct capwaphdr_wsi_key *opt = (struct capwaphdr_wsi_key *)(wsi + 1);
260
261                 opt->key = out_key;
262         }
263
264         udph->len = htons(skb->len - skb_transport_offset(skb));
265
266         if (unlikely(skb->len - skb_network_offset(skb) > dst_mtu(dst))) {
267                 unsigned int hlen = skb_transport_offset(skb) + capwap_hdr_len(mutable, tun_key);
268                 skb = fragment(skb, vport, dst, hlen);
269         }
270
271         return skb;
272 }
273
274 static int process_capwap_wsi(struct sk_buff *skb, __be64 *key, bool *key_present)
275 {
276         struct capwaphdr *cwh = capwap_hdr(skb);
277         struct capwaphdr_wsi *wsi;
278         int hdr_len;
279         int rmac_len = 0;
280         int wsi_len;
281
282         if (((cwh->begin & CAPWAP_WBID_MASK) != CAPWAP_WBID_30))
283                 return 0;
284
285         if (cwh->begin & CAPWAP_F_RMAC)
286                 rmac_len = CAPWAP_RMAC_LEN;
287
288         hdr_len = ntohl(cwh->begin & CAPWAP_HLEN_MASK) >> CAPWAP_HLEN_SHIFT;
289
290         if (unlikely(sizeof(struct capwaphdr) + rmac_len + sizeof(struct capwaphdr_wsi) > hdr_len))
291                 return -EINVAL;
292
293         /* read wsi header to find out how big it really is */
294         wsi = (struct capwaphdr_wsi *)((u8 *)(cwh + 1) + rmac_len);
295         /* +1 for length byte not included in wsi_len */
296         wsi_len = 1 + wsi->wsi_len;
297
298         if (unlikely(sizeof(struct capwaphdr) + rmac_len + wsi_len != hdr_len))
299                 return -EINVAL;
300
301         wsi_len -= sizeof(struct capwaphdr_wsi);
302
303         if (wsi->flags & CAPWAP_WSI_F_KEY64) {
304                 struct capwaphdr_wsi_key *opt;
305
306                 if (unlikely(wsi_len < sizeof(struct capwaphdr_wsi_key)))
307                         return -EINVAL;
308
309                 opt = (struct capwaphdr_wsi_key *)(wsi + 1);
310                 *key = opt->key;
311                 *key_present = true;
312         } else {
313                 *key_present = false;
314         }
315
316         return 0;
317 }
318
319 static struct sk_buff *process_capwap_proto(struct sk_buff *skb, __be64 *key, bool *key_present)
320 {
321         struct capwaphdr *cwh = capwap_hdr(skb);
322         int hdr_len = sizeof(struct udphdr);
323
324         if (unlikely((cwh->begin & CAPWAP_ZERO_MASK) != 0))
325                 goto error;
326
327         hdr_len += ntohl(cwh->begin & CAPWAP_HLEN_MASK) >> CAPWAP_HLEN_SHIFT;
328         if (unlikely(hdr_len < CAPWAP_MIN_HLEN))
329                 goto error;
330
331         if (unlikely(!pskb_may_pull(skb, hdr_len + ETH_HLEN)))
332                 goto error;
333
334         cwh = capwap_hdr(skb);
335         __skb_pull(skb, hdr_len);
336         skb_postpull_rcsum(skb, skb_transport_header(skb), hdr_len + ETH_HLEN);
337
338         if (cwh->begin & CAPWAP_F_FRAG) {
339                 skb = defrag(skb, (__force bool)(cwh->begin & CAPWAP_F_LASTFRAG));
340                 if (!skb)
341                         return NULL;
342                 cwh = capwap_hdr(skb);
343         }
344
345         if ((cwh->begin & CAPWAP_F_WSI) && process_capwap_wsi(skb, key, key_present))
346                 goto error;
347
348         return skb;
349 error:
350         kfree_skb(skb);
351         return NULL;
352 }
353
354 /* Called with rcu_read_lock and BH disabled. */
355 static int capwap_rcv(struct sock *sk, struct sk_buff *skb)
356 {
357         struct vport *vport;
358         const struct tnl_mutable_config *mutable;
359         struct iphdr *iph;
360         struct ovs_key_ipv4_tunnel tun_key;
361         __be64 key = 0;
362         bool key_present = false;
363
364         if (unlikely(!pskb_may_pull(skb, CAPWAP_MIN_HLEN + ETH_HLEN)))
365                 goto error;
366
367         skb = process_capwap_proto(skb, &key, &key_present);
368         if (unlikely(!skb))
369                 goto out;
370
371         iph = ip_hdr(skb);
372         vport = ovs_tnl_find_port(sock_net(sk), iph->daddr, iph->saddr, key,
373                                   TNL_T_PROTO_CAPWAP, &mutable);
374         if (unlikely(!vport)) {
375                 icmp_send(skb, ICMP_DEST_UNREACH, ICMP_PORT_UNREACH, 0);
376                 goto error;
377         }
378
379         if (key_present && mutable->key.daddr &&
380                          !(mutable->flags & TNL_F_IN_KEY_MATCH))
381                 key_present = false;
382
383         tnl_tun_key_init(&tun_key, iph, key, key_present ? OVS_FLOW_TNL_F_KEY : 0);
384         OVS_CB(skb)->tun_key = &tun_key;
385
386         ovs_tnl_rcv(vport, skb);
387         goto out;
388
389 error:
390         kfree_skb(skb);
391 out:
392         return 0;
393 }
394
395 static const struct tnl_ops capwap_tnl_ops = {
396         .tunnel_type    = TNL_T_PROTO_CAPWAP,
397         .ipproto        = IPPROTO_UDP,
398         .hdr_len        = capwap_hdr_len,
399         .build_header   = capwap_build_header,
400         .update_header  = capwap_update_header,
401 };
402
403 static inline struct capwap_net *ovs_get_capwap_net(struct net *net)
404 {
405         struct ovs_net *ovs_net = net_generic(net, ovs_net_id);
406         return &ovs_net->vport_net.capwap;
407 }
408
409 /* Arbitrary value.  Irrelevant as long as it's not 0 since we set the handler. */
410 #define UDP_ENCAP_CAPWAP 10
411 static int init_socket(struct net *net)
412 {
413         int err;
414         struct capwap_net *capwap_net = ovs_get_capwap_net(net);
415         struct sockaddr_in sin;
416
417         if (capwap_net->n_tunnels) {
418                 capwap_net->n_tunnels++;
419                 return 0;
420         }
421
422         err = sock_create_kern(AF_INET, SOCK_DGRAM, 0,
423                                &capwap_net->capwap_rcv_socket);
424         if (err)
425                 goto error;
426
427         /* release net ref. */
428         sk_change_net(capwap_net->capwap_rcv_socket->sk, net);
429
430         sin.sin_family = AF_INET;
431         sin.sin_addr.s_addr = htonl(INADDR_ANY);
432         sin.sin_port = htons(CAPWAP_DST_PORT);
433
434         err = kernel_bind(capwap_net->capwap_rcv_socket,
435                           (struct sockaddr *)&sin,
436                           sizeof(struct sockaddr_in));
437         if (err)
438                 goto error_sock;
439
440         udp_sk(capwap_net->capwap_rcv_socket->sk)->encap_type = UDP_ENCAP_CAPWAP;
441         udp_sk(capwap_net->capwap_rcv_socket->sk)->encap_rcv = capwap_rcv;
442
443         capwap_net->frag_state.timeout          = CAPWAP_FRAG_TIMEOUT;
444         capwap_net->frag_state.high_thresh      = CAPWAP_FRAG_MAX_MEM;
445         capwap_net->frag_state.low_thresh       = CAPWAP_FRAG_PRUNE_MEM;
446
447         inet_frags_init_net(&capwap_net->frag_state);
448         udp_encap_enable();
449         capwap_net->n_tunnels++;
450         return 0;
451
452 error_sock:
453         sk_release_kernel(capwap_net->capwap_rcv_socket->sk);
454 error:
455         pr_warn("cannot register capwap protocol handler : %d\n", err);
456         return err;
457 }
458
459 static void release_socket(struct net *net)
460 {
461         struct capwap_net *capwap_net = ovs_get_capwap_net(net);
462
463         capwap_net->n_tunnels--;
464         if (capwap_net->n_tunnels)
465                 return;
466
467         inet_frags_exit_net(&capwap_net->frag_state, &frag_state);
468         sk_release_kernel(capwap_net->capwap_rcv_socket->sk);
469 }
470
471 static struct vport *capwap_create(const struct vport_parms *parms)
472 {
473         struct vport *vport;
474         int err;
475
476         err = init_socket(ovs_dp_get_net(parms->dp));
477         if (err)
478                 return ERR_PTR(err);
479
480         vport = ovs_tnl_create(parms, &ovs_capwap_vport_ops, &capwap_tnl_ops);
481         if (IS_ERR(vport))
482                 release_socket(ovs_dp_get_net(parms->dp));
483
484         return vport;
485 }
486
487 static void capwap_destroy(struct vport *vport)
488 {
489         ovs_tnl_destroy(vport);
490         release_socket(ovs_dp_get_net(vport->dp));
491 }
492
493 static int capwap_init(void)
494 {
495         inet_frags_init(&frag_state);
496         return 0;
497 }
498
499 static void capwap_exit(void)
500 {
501         inet_frags_fini(&frag_state);
502 }
503
504 static void copy_skb_metadata(struct sk_buff *from, struct sk_buff *to)
505 {
506         to->pkt_type = from->pkt_type;
507         to->priority = from->priority;
508         to->protocol = from->protocol;
509         skb_dst_set(to, dst_clone(skb_dst(from)));
510         to->dev = from->dev;
511         to->mark = from->mark;
512
513         if (from->sk)
514                 skb_set_owner_w(to, from->sk);
515
516 #ifdef CONFIG_NET_SCHED
517         to->tc_index = from->tc_index;
518 #endif
519 #if defined(CONFIG_IP_VS) || defined(CONFIG_IP_VS_MODULE)
520         to->ipvs_property = from->ipvs_property;
521 #endif
522         skb_copy_secmark(to, from);
523 }
524
525 static struct sk_buff *fragment(struct sk_buff *skb, const struct vport *vport,
526                                 struct dst_entry *dst, unsigned int hlen)
527 {
528         struct tnl_vport *tnl_vport = tnl_vport_priv(vport);
529         unsigned int headroom;
530         unsigned int max_frame_len = dst_mtu(dst) + skb_network_offset(skb);
531         struct sk_buff *result = NULL, *list_cur = NULL;
532         unsigned int remaining;
533         unsigned int offset;
534         __be16 frag_id;
535
536         if (hlen + ~FRAG_OFF_MASK + 1 > max_frame_len) {
537                 if (net_ratelimit())
538                         pr_warn("capwap link mtu (%d) is less than minimum packet (%d)\n",
539                                 dst_mtu(dst),
540                                 hlen - skb_network_offset(skb) + ~FRAG_OFF_MASK + 1);
541                 goto error;
542         }
543
544         remaining = skb->len - hlen;
545         offset = 0;
546         frag_id = htons(atomic_inc_return(&tnl_vport->frag_id));
547
548         headroom = dst->header_len + 16;
549         if (!skb_network_offset(skb))
550                 headroom += LL_RESERVED_SPACE(dst->dev);
551
552         while (remaining) {
553                 struct sk_buff *skb2;
554                 int frag_size;
555                 struct udphdr *udph;
556                 struct capwaphdr *cwh;
557
558                 frag_size = min(remaining, max_frame_len - hlen);
559                 if (remaining > frag_size)
560                         frag_size &= FRAG_OFF_MASK;
561
562                 skb2 = alloc_skb(headroom + hlen + frag_size, GFP_ATOMIC);
563                 if (!skb2)
564                         goto error;
565
566                 skb_reserve(skb2, headroom);
567                 __skb_put(skb2, hlen + frag_size);
568
569                 if (skb_network_offset(skb))
570                         skb_reset_mac_header(skb2);
571                 skb_set_network_header(skb2, skb_network_offset(skb));
572                 skb_set_transport_header(skb2, skb_transport_offset(skb));
573
574                 /* Copy (Ethernet)/IP/UDP/CAPWAP header. */
575                 copy_skb_metadata(skb, skb2);
576                 skb_copy_from_linear_data(skb, skb2->data, hlen);
577
578                 /* Copy this data chunk. */
579                 if (skb_copy_bits(skb, hlen + offset, skb2->data + hlen, frag_size))
580                         BUG();
581
582                 udph = udp_hdr(skb2);
583                 udph->len = htons(skb2->len - skb_transport_offset(skb2));
584
585                 cwh = capwap_hdr(skb2);
586                 if (remaining > frag_size)
587                         cwh->begin |= FRAG_HDR;
588                 else
589                         cwh->begin |= FRAG_LAST_HDR;
590                 cwh->frag_id = frag_id;
591                 cwh->frag_off = htons(offset);
592
593                 if (result) {
594                         list_cur->next = skb2;
595                         list_cur = skb2;
596                 } else
597                         result = list_cur = skb2;
598
599                 offset += frag_size;
600                 remaining -= frag_size;
601         }
602
603         consume_skb(skb);
604         return result;
605
606 error:
607         ovs_tnl_free_linked_skbs(result);
608         kfree_skb(skb);
609         return NULL;
610 }
611
612 /* All of the following functions relate to fragmentation reassembly. */
613
614 static struct frag_queue *ifq_cast(struct inet_frag_queue *ifq)
615 {
616         return container_of(ifq, struct frag_queue, ifq);
617 }
618
619 static u32 frag_hash(struct frag_match *match)
620 {
621         return jhash_3words((__force u16)match->id, (__force u32)match->saddr,
622                             (__force u32)match->daddr,
623                             frag_state.rnd) & (INETFRAGS_HASHSZ - 1);
624 }
625
626 static struct frag_queue *queue_find(struct netns_frags *ns_frag_state,
627                                      struct frag_match *match)
628 {
629         struct inet_frag_queue *ifq;
630
631         read_lock(&frag_state.lock);
632
633         ifq = inet_frag_find(ns_frag_state, &frag_state, match, frag_hash(match));
634         if (!ifq)
635                 return NULL;
636
637         /* Unlock happens inside inet_frag_find(). */
638
639         return ifq_cast(ifq);
640 }
641
642 static struct sk_buff *frag_reasm(struct frag_queue *fq, struct net_device *dev)
643 {
644         struct sk_buff *head = fq->ifq.fragments;
645         struct sk_buff *frag;
646
647         /* Succeed or fail, we're done with this queue. */
648         inet_frag_kill(&fq->ifq, &frag_state);
649
650         if (fq->ifq.len > 65535)
651                 return NULL;
652
653         /* Can't have the head be a clone. */
654         if (skb_cloned(head) && pskb_expand_head(head, 0, 0, GFP_ATOMIC))
655                 return NULL;
656
657         /*
658          * We're about to build frag list for this SKB.  If it already has a
659          * frag list, alloc a new SKB and put the existing frag list there.
660          */
661         if (skb_shinfo(head)->frag_list) {
662                 int i;
663                 int paged_len = 0;
664
665                 frag = alloc_skb(0, GFP_ATOMIC);
666                 if (!frag)
667                         return NULL;
668
669                 frag->next = head->next;
670                 head->next = frag;
671                 skb_shinfo(frag)->frag_list = skb_shinfo(head)->frag_list;
672                 skb_shinfo(head)->frag_list = NULL;
673
674                 for (i = 0; i < skb_shinfo(head)->nr_frags; i++)
675                         paged_len += skb_shinfo(head)->frags[i].size;
676                 frag->len = frag->data_len = head->data_len - paged_len;
677                 head->data_len -= frag->len;
678                 head->len -= frag->len;
679
680                 frag->ip_summed = head->ip_summed;
681                 atomic_add(frag->truesize, &fq->ifq.net->mem);
682         }
683
684         skb_shinfo(head)->frag_list = head->next;
685         atomic_sub(head->truesize, &fq->ifq.net->mem);
686
687         /* Properly account for data in various packets. */
688         for (frag = head->next; frag; frag = frag->next) {
689                 head->data_len += frag->len;
690                 head->len += frag->len;
691
692                 if (head->ip_summed != frag->ip_summed)
693                         head->ip_summed = CHECKSUM_NONE;
694                 else if (head->ip_summed == CHECKSUM_COMPLETE)
695                         head->csum = csum_add(head->csum, frag->csum);
696
697                 head->truesize += frag->truesize;
698                 atomic_sub(frag->truesize, &fq->ifq.net->mem);
699         }
700
701         head->next = NULL;
702         head->dev = dev;
703         head->tstamp = fq->ifq.stamp;
704         fq->ifq.fragments = NULL;
705
706         return head;
707 }
708
709 static struct sk_buff *frag_queue(struct frag_queue *fq, struct sk_buff *skb,
710                                   u16 offset, bool frag_last)
711 {
712         struct sk_buff *prev, *next;
713         struct net_device *dev;
714         int end;
715
716         if (fq->ifq.last_in & INET_FRAG_COMPLETE)
717                 goto error;
718
719         if (!skb->len)
720                 goto error;
721
722         end = offset + skb->len;
723
724         if (frag_last) {
725                 /*
726                  * Last fragment, shouldn't already have data past our end or
727                  * have another last fragment.
728                  */
729                 if (end < fq->ifq.len || fq->ifq.last_in & INET_FRAG_LAST_IN)
730                         goto error;
731
732                 fq->ifq.last_in |= INET_FRAG_LAST_IN;
733                 fq->ifq.len = end;
734         } else {
735                 /* Fragments should align to 8 byte chunks. */
736                 if (end & ~FRAG_OFF_MASK)
737                         goto error;
738
739                 if (end > fq->ifq.len) {
740                         /*
741                          * Shouldn't have data past the end, if we already
742                          * have one.
743                          */
744                         if (fq->ifq.last_in & INET_FRAG_LAST_IN)
745                                 goto error;
746
747                         fq->ifq.len = end;
748                 }
749         }
750
751         /* Find where we fit in. */
752         prev = NULL;
753         for (next = fq->ifq.fragments; next != NULL; next = next->next) {
754                 if (FRAG_CB(next)->offset >= offset)
755                         break;
756                 prev = next;
757         }
758
759         /*
760          * Overlapping fragments aren't allowed.  We shouldn't start before
761          * the end of the previous fragment.
762          */
763         if (prev && FRAG_CB(prev)->offset + prev->len > offset)
764                 goto error;
765
766         /* We also shouldn't end after the beginning of the next fragment. */
767         if (next && end > FRAG_CB(next)->offset)
768                 goto error;
769
770         FRAG_CB(skb)->offset = offset;
771
772         /* Link into list. */
773         skb->next = next;
774         if (prev)
775                 prev->next = skb;
776         else
777                 fq->ifq.fragments = skb;
778
779         dev = skb->dev;
780         skb->dev = NULL;
781
782         fq->ifq.stamp = skb->tstamp;
783         fq->ifq.meat += skb->len;
784         atomic_add(skb->truesize, &fq->ifq.net->mem);
785         if (offset == 0)
786                 fq->ifq.last_in |= INET_FRAG_FIRST_IN;
787
788         /* If we have all fragments do reassembly. */
789         if (fq->ifq.last_in == (INET_FRAG_FIRST_IN | INET_FRAG_LAST_IN) &&
790             fq->ifq.meat == fq->ifq.len)
791                 return frag_reasm(fq, dev);
792
793         write_lock(&frag_state.lock);
794         list_move_tail(&fq->ifq.lru_list, &fq->ifq.net->lru_list);
795         write_unlock(&frag_state.lock);
796
797         return NULL;
798
799 error:
800         kfree_skb(skb);
801         return NULL;
802 }
803
804 static struct sk_buff *defrag(struct sk_buff *skb, bool frag_last)
805 {
806         struct iphdr *iph = ip_hdr(skb);
807         struct capwaphdr *cwh = capwap_hdr(skb);
808         struct capwap_net *capwap_net = ovs_get_capwap_net(dev_net(skb->dev));
809         struct netns_frags *ns_frag_state = &capwap_net->frag_state;
810         struct frag_match match;
811         u16 frag_off;
812         struct frag_queue *fq;
813
814         if (atomic_read(&ns_frag_state->mem) > ns_frag_state->high_thresh)
815                 inet_frag_evictor(ns_frag_state, &frag_state);
816
817         match.daddr = iph->daddr;
818         match.saddr = iph->saddr;
819         match.id = cwh->frag_id;
820         frag_off = ntohs(cwh->frag_off) & FRAG_OFF_MASK;
821
822         fq = queue_find(ns_frag_state, &match);
823         if (fq) {
824                 spin_lock(&fq->ifq.lock);
825                 skb = frag_queue(fq, skb, frag_off, frag_last);
826                 spin_unlock(&fq->ifq.lock);
827
828                 inet_frag_put(&fq->ifq, &frag_state);
829
830                 return skb;
831         }
832
833         kfree_skb(skb);
834         return NULL;
835 }
836
837 static void capwap_frag_init(struct inet_frag_queue *ifq, void *match_)
838 {
839         struct frag_match *match = match_;
840
841         ifq_cast(ifq)->match = *match;
842 }
843
844 static unsigned int capwap_frag_hash(struct inet_frag_queue *ifq)
845 {
846         return frag_hash(&ifq_cast(ifq)->match);
847 }
848
849 static int capwap_frag_match(struct inet_frag_queue *ifq, void *a_)
850 {
851         struct frag_match *a = a_;
852         struct frag_match *b = &ifq_cast(ifq)->match;
853
854         return a->id == b->id && a->saddr == b->saddr && a->daddr == b->daddr;
855 }
856
857 /* Run when the timeout for a given queue expires. */
858 static void capwap_frag_expire(unsigned long ifq)
859 {
860         struct frag_queue *fq;
861
862         fq = ifq_cast((struct inet_frag_queue *)ifq);
863
864         spin_lock(&fq->ifq.lock);
865
866         if (!(fq->ifq.last_in & INET_FRAG_COMPLETE))
867                 inet_frag_kill(&fq->ifq, &frag_state);
868
869         spin_unlock(&fq->ifq.lock);
870         inet_frag_put(&fq->ifq, &frag_state);
871 }
872
873 const struct vport_ops ovs_capwap_vport_ops = {
874         .type           = OVS_VPORT_TYPE_CAPWAP,
875         .flags          = VPORT_F_TUN_ID,
876         .init           = capwap_init,
877         .exit           = capwap_exit,
878         .create         = capwap_create,
879         .destroy        = capwap_destroy,
880         .set_addr       = ovs_tnl_set_addr,
881         .get_name       = ovs_tnl_get_name,
882         .get_addr       = ovs_tnl_get_addr,
883         .get_options    = ovs_tnl_get_options,
884         .set_options    = ovs_tnl_set_options,
885         .get_dev_flags  = ovs_vport_gen_get_dev_flags,
886         .is_running     = ovs_vport_gen_is_running,
887         .get_operstate  = ovs_vport_gen_get_operstate,
888         .send           = ovs_tnl_send,
889 };
890 #else
891 #warning CAPWAP tunneling will not be available on kernels before 2.6.26
892 #endif /* Linux kernel < 2.6.26 */