LCOV - code coverage report
Current view: top level - net/ipv6 - af_inet6.c (source / functions) Hit Total Coverage
Test: combined.info Lines: 300 606 49.5 %
Date: 2022-03-28 13:20:08 Functions: 10 20 50.0 %
Branches: 111 314 35.4 %

           Branch data     Line data    Source code
       1                 :            : // SPDX-License-Identifier: GPL-2.0-or-later
       2                 :            : /*
       3                 :            :  *      PF_INET6 socket protocol family
       4                 :            :  *      Linux INET6 implementation
       5                 :            :  *
       6                 :            :  *      Authors:
       7                 :            :  *      Pedro Roque             <roque@di.fc.ul.pt>
       8                 :            :  *
       9                 :            :  *      Adapted from linux/net/ipv4/af_inet.c
      10                 :            :  *
      11                 :            :  *      Fixes:
      12                 :            :  *      piggy, Karl Knutson     :       Socket protocol table
      13                 :            :  *      Hideaki YOSHIFUJI       :       sin6_scope_id support
      14                 :            :  *      Arnaldo Melo            :       check proc_net_create return, cleanups
      15                 :            :  */
      16                 :            : 
      17                 :            : #define pr_fmt(fmt) "IPv6: " fmt
      18                 :            : 
      19                 :            : #include <linux/module.h>
      20                 :            : #include <linux/capability.h>
      21                 :            : #include <linux/errno.h>
      22                 :            : #include <linux/types.h>
      23                 :            : #include <linux/socket.h>
      24                 :            : #include <linux/in.h>
      25                 :            : #include <linux/kernel.h>
      26                 :            : #include <linux/timer.h>
      27                 :            : #include <linux/string.h>
      28                 :            : #include <linux/sockios.h>
      29                 :            : #include <linux/net.h>
      30                 :            : #include <linux/fcntl.h>
      31                 :            : #include <linux/mm.h>
      32                 :            : #include <linux/interrupt.h>
      33                 :            : #include <linux/proc_fs.h>
      34                 :            : #include <linux/stat.h>
      35                 :            : #include <linux/init.h>
      36                 :            : #include <linux/slab.h>
      37                 :            : 
      38                 :            : #include <linux/inet.h>
      39                 :            : #include <linux/netdevice.h>
      40                 :            : #include <linux/icmpv6.h>
      41                 :            : #include <linux/netfilter_ipv6.h>
      42                 :            : 
      43                 :            : #include <net/ip.h>
      44                 :            : #include <net/ipv6.h>
      45                 :            : #include <net/udp.h>
      46                 :            : #include <net/udplite.h>
      47                 :            : #include <net/tcp.h>
      48                 :            : #include <net/ping.h>
      49                 :            : #include <net/protocol.h>
      50                 :            : #include <net/inet_common.h>
      51                 :            : #include <net/route.h>
      52                 :            : #include <net/transp_v6.h>
      53                 :            : #include <net/ip6_route.h>
      54                 :            : #include <net/addrconf.h>
      55                 :            : #include <net/ipv6_stubs.h>
      56                 :            : #include <net/ndisc.h>
      57                 :            : #ifdef CONFIG_IPV6_TUNNEL
      58                 :            : #include <net/ip6_tunnel.h>
      59                 :            : #endif
      60                 :            : #include <net/calipso.h>
      61                 :            : #include <net/seg6.h>
      62                 :            : 
      63                 :            : #include <linux/uaccess.h>
      64                 :            : #include <linux/mroute6.h>
      65                 :            : 
      66                 :            : #include "ip6_offload.h"
      67                 :            : 
      68                 :            : MODULE_AUTHOR("Cast of dozens");
      69                 :            : MODULE_DESCRIPTION("IPv6 protocol stack for Linux");
      70                 :            : MODULE_LICENSE("GPL");
      71                 :            : 
      72                 :            : /* The inetsw6 table contains everything that inet6_create needs to
      73                 :            :  * build a new socket.
      74                 :            :  */
      75                 :            : static struct list_head inetsw6[SOCK_MAX];
      76                 :            : static DEFINE_SPINLOCK(inetsw6_lock);
      77                 :            : 
      78                 :            : struct ipv6_params ipv6_defaults = {
      79                 :            :         .disable_ipv6 = 0,
      80                 :            :         .autoconf = 1,
      81                 :            : };
      82                 :            : 
      83                 :            : static int disable_ipv6_mod;
      84                 :            : 
      85                 :            : module_param_named(disable, disable_ipv6_mod, int, 0444);
      86                 :            : MODULE_PARM_DESC(disable, "Disable IPv6 module such that it is non-functional");
      87                 :            : 
      88                 :            : module_param_named(disable_ipv6, ipv6_defaults.disable_ipv6, int, 0444);
      89                 :            : MODULE_PARM_DESC(disable_ipv6, "Disable IPv6 on all interfaces");
      90                 :            : 
      91                 :            : module_param_named(autoconf, ipv6_defaults.autoconf, int, 0444);
      92                 :            : MODULE_PARM_DESC(autoconf, "Enable IPv6 address autoconfiguration on all interfaces");
      93                 :            : 
      94                 :          0 : bool ipv6_mod_enabled(void)
      95                 :            : {
      96                 :          0 :         return disable_ipv6_mod == 0;
      97                 :            : }
      98                 :            : EXPORT_SYMBOL_GPL(ipv6_mod_enabled);
      99                 :            : 
     100                 :        240 : static __inline__ struct ipv6_pinfo *inet6_sk_generic(struct sock *sk)
     101                 :            : {
     102                 :        240 :         const int offset = sk->sk_prot->obj_size - sizeof(struct ipv6_pinfo);
     103                 :            : 
     104                 :        240 :         return (struct ipv6_pinfo *)(((u8 *)sk) + offset);
     105                 :            : }
     106                 :            : 
     107                 :        240 : static int inet6_create(struct net *net, struct socket *sock, int protocol,
     108                 :            :                         int kern)
     109                 :            : {
     110                 :        240 :         struct inet_sock *inet;
     111                 :        240 :         struct ipv6_pinfo *np;
     112                 :        240 :         struct sock *sk;
     113                 :        240 :         struct inet_protosw *answer;
     114                 :        240 :         struct proto *answer_prot;
     115                 :        240 :         unsigned char answer_flags;
     116                 :        240 :         int try_loading_module = 0;
     117                 :        240 :         int err;
     118                 :            : 
     119         [ +  - ]:        240 :         if (protocol < 0 || protocol >= IPPROTO_MAX)
     120                 :            :                 return -EINVAL;
     121                 :            : 
     122                 :            :         /* Look for the requested type/protocol pair. */
     123                 :        240 : lookup_protocol:
     124                 :        240 :         err = -ESOCKTNOSUPPORT;
     125                 :        240 :         rcu_read_lock();
     126         [ +  - ]:        240 :         list_for_each_entry_rcu(answer, &inetsw6[sock->type], list) {
     127                 :            : 
     128                 :        240 :                 err = 0;
     129                 :            :                 /* Check the non-wild match. */
     130         [ +  + ]:        240 :                 if (protocol == answer->protocol) {
     131         [ -  + ]:         30 :                         if (protocol != IPPROTO_IP)
     132                 :            :                                 break;
     133                 :            :                 } else {
     134                 :            :                         /* Check for the two wild cases. */
     135         [ +  + ]:        210 :                         if (IPPROTO_IP == protocol) {
     136                 :            :                                 protocol = answer->protocol;
     137                 :            :                                 break;
     138                 :            :                         }
     139         [ -  + ]:        150 :                         if (IPPROTO_IP == answer->protocol)
     140                 :            :                                 break;
     141                 :            :                 }
     142                 :          0 :                 err = -EPROTONOSUPPORT;
     143                 :            :         }
     144                 :            : 
     145         [ -  + ]:        180 :         if (err) {
     146         [ #  # ]:          0 :                 if (try_loading_module < 2) {
     147                 :          0 :                         rcu_read_unlock();
     148                 :            :                         /*
     149                 :            :                          * Be more specific, e.g. net-pf-10-proto-132-type-1
     150                 :            :                          * (net-pf-PF_INET6-proto-IPPROTO_SCTP-type-SOCK_STREAM)
     151                 :            :                          */
     152         [ #  # ]:          0 :                         if (++try_loading_module == 1)
     153                 :          0 :                                 request_module("net-pf-%d-proto-%d-type-%d",
     154                 :            :                                                 PF_INET6, protocol, sock->type);
     155                 :            :                         /*
     156                 :            :                          * Fall back to generic, e.g. net-pf-10-proto-132
     157                 :            :                          * (net-pf-PF_INET6-proto-IPPROTO_SCTP)
     158                 :            :                          */
     159                 :            :                         else
     160                 :          0 :                                 request_module("net-pf-%d-proto-%d",
     161                 :            :                                                 PF_INET6, protocol);
     162                 :          0 :                         goto lookup_protocol;
     163                 :            :                 } else
     164                 :          0 :                         goto out_rcu_unlock;
     165                 :            :         }
     166                 :            : 
     167                 :        240 :         err = -EPERM;
     168   [ +  +  -  +  :        240 :         if (sock->type == SOCK_RAW && !kern &&
                   -  - ]
     169                 :          0 :             !ns_capable(net->user_ns, CAP_NET_RAW))
     170                 :          0 :                 goto out_rcu_unlock;
     171                 :            : 
     172                 :        240 :         sock->ops = answer->ops;
     173                 :        240 :         answer_prot = answer->prot;
     174                 :        240 :         answer_flags = answer->flags;
     175                 :        240 :         rcu_read_unlock();
     176                 :            : 
     177         [ -  + ]:        240 :         WARN_ON(!answer_prot->slab);
     178                 :            : 
     179                 :        240 :         err = -ENOBUFS;
     180                 :        240 :         sk = sk_alloc(net, PF_INET6, GFP_KERNEL, answer_prot, kern);
     181         [ -  + ]:        240 :         if (!sk)
     182                 :          0 :                 goto out;
     183                 :            : 
     184                 :        240 :         sock_init_data(sock, sk);
     185                 :            : 
     186                 :        240 :         err = 0;
     187         [ +  + ]:        240 :         if (INET_PROTOSW_REUSE & answer_flags)
     188                 :        150 :                 sk->sk_reuse = SK_CAN_REUSE;
     189                 :            : 
     190         [ +  + ]:        240 :         inet = inet_sk(sk);
     191                 :        240 :         inet->is_icsk = (INET_PROTOSW_ICSK & answer_flags) != 0;
     192                 :            : 
     193         [ +  + ]:        240 :         if (SOCK_RAW == sock->type) {
     194                 :        150 :                 inet->inet_num = protocol;
     195         [ -  + ]:        150 :                 if (IPPROTO_RAW == protocol)
     196                 :          0 :                         inet->hdrincl = 1;
     197                 :            :         }
     198                 :            : 
     199                 :        240 :         sk->sk_destruct              = inet_sock_destruct;
     200                 :        240 :         sk->sk_family                = PF_INET6;
     201                 :        240 :         sk->sk_protocol              = protocol;
     202                 :            : 
     203                 :        240 :         sk->sk_backlog_rcv   = answer->prot->backlog_rcv;
     204                 :            : 
     205         [ -  + ]:        240 :         inet_sk(sk)->pinet6 = np = inet6_sk_generic(sk);
     206                 :        240 :         np->hop_limit        = -1;
     207                 :        240 :         np->mcast_hops       = IPV6_DEFAULT_MCASTHOPS;
     208                 :        240 :         np->mc_loop  = 1;
     209                 :        240 :         np->mc_all   = 1;
     210                 :        240 :         np->pmtudisc = IPV6_PMTUDISC_WANT;
     211                 :        240 :         np->repflow  = net->ipv6.sysctl.flowlabel_reflect & FLOWLABEL_REFLECT_ESTABLISHED;
     212                 :        240 :         sk->sk_ipv6only      = net->ipv6.sysctl.bindv6only;
     213                 :            : 
     214                 :            :         /* Init the ipv4 part of the socket since we can have sockets
     215                 :            :          * using v6 API for ipv4.
     216                 :            :          */
     217                 :        240 :         inet->uc_ttl = -1;
     218                 :            : 
     219                 :        240 :         inet->mc_loop        = 1;
     220                 :        240 :         inet->mc_ttl = 1;
     221                 :        240 :         inet->mc_index       = 0;
     222                 :        240 :         inet->mc_list        = NULL;
     223                 :        240 :         inet->rcv_tos        = 0;
     224                 :            : 
     225         [ -  + ]:        240 :         if (net->ipv4.sysctl_ip_no_pmtu_disc)
     226                 :          0 :                 inet->pmtudisc = IP_PMTUDISC_DONT;
     227                 :            :         else
     228                 :        240 :                 inet->pmtudisc = IP_PMTUDISC_WANT;
     229                 :            :         /*
     230                 :            :          * Increment only the relevant sk_prot->socks debug field, this changes
     231                 :            :          * the previous behaviour of incrementing both the equivalent to
     232                 :            :          * answer->prot->socks (inet6_sock_nr) and inet_sock_nr.
     233                 :            :          *
     234                 :            :          * This allows better debug granularity as we'll know exactly how many
     235                 :            :          * UDPv6, TCPv6, etc socks were allocated, not the sum of all IPv6
     236                 :            :          * transport protocol socks. -acme
     237                 :            :          */
     238                 :        240 :         sk_refcnt_debug_inc(sk);
     239                 :            : 
     240         [ +  + ]:        240 :         if (inet->inet_num) {
     241                 :            :                 /* It assumes that any protocol which allows
     242                 :            :                  * the user to assign a number at socket
     243                 :            :                  * creation time automatically shares.
     244                 :            :                  */
     245                 :        150 :                 inet->inet_sport = htons(inet->inet_num);
     246                 :        150 :                 err = sk->sk_prot->hash(sk);
     247         [ -  + ]:        150 :                 if (err) {
     248                 :          0 :                         sk_common_release(sk);
     249                 :          0 :                         goto out;
     250                 :            :                 }
     251                 :            :         }
     252         [ +  - ]:        240 :         if (sk->sk_prot->init) {
     253                 :        240 :                 err = sk->sk_prot->init(sk);
     254         [ -  + ]:        240 :                 if (err) {
     255                 :          0 :                         sk_common_release(sk);
     256                 :          0 :                         goto out;
     257                 :            :                 }
     258                 :            :         }
     259                 :            : 
     260         [ +  + ]:        240 :         if (!kern) {
     261                 :         90 :                 err = BPF_CGROUP_RUN_PROG_INET_SOCK(sk);
     262                 :         90 :                 if (err) {
     263                 :            :                         sk_common_release(sk);
     264                 :            :                         goto out;
     265                 :            :                 }
     266                 :            :         }
     267                 :        240 : out:
     268                 :            :         return err;
     269                 :          0 : out_rcu_unlock:
     270                 :          0 :         rcu_read_unlock();
     271                 :          0 :         goto out;
     272                 :            : }
     273                 :            : 
     274                 :         30 : static int __inet6_bind(struct sock *sk, struct sockaddr *uaddr, int addr_len,
     275                 :            :                         bool force_bind_address_no_port, bool with_lock)
     276                 :            : {
     277                 :         30 :         struct sockaddr_in6 *addr = (struct sockaddr_in6 *)uaddr;
     278         [ +  - ]:         30 :         struct inet_sock *inet = inet_sk(sk);
     279         [ +  - ]:         30 :         struct ipv6_pinfo *np = inet6_sk(sk);
     280         [ +  - ]:         30 :         struct net *net = sock_net(sk);
     281                 :         30 :         __be32 v4addr = 0;
     282                 :         30 :         unsigned short snum;
     283                 :         30 :         bool saved_ipv6only;
     284                 :         30 :         int addr_type = 0;
     285                 :         30 :         int err = 0;
     286                 :            : 
     287         [ +  - ]:         30 :         if (addr->sin6_family != AF_INET6)
     288                 :            :                 return -EAFNOSUPPORT;
     289                 :            : 
     290                 :         30 :         addr_type = ipv6_addr_type(&addr->sin6_addr);
     291   [ -  +  -  - ]:         30 :         if ((addr_type & IPV6_ADDR_MULTICAST) && sk->sk_type == SOCK_STREAM)
     292                 :            :                 return -EINVAL;
     293                 :            : 
     294                 :         30 :         snum = ntohs(addr->sin6_port);
     295   [ +  -  +  -  :         60 :         if (snum && inet_port_requires_bind_service(net, snum) &&
                   +  - ]
     296                 :         30 :             !ns_capable(net->user_ns, CAP_NET_BIND_SERVICE))
     297                 :            :                 return -EACCES;
     298                 :            : 
     299         [ +  - ]:         30 :         if (with_lock)
     300                 :         30 :                 lock_sock(sk);
     301                 :            : 
     302                 :            :         /* Check these errors (active socket, double bind). */
     303   [ +  -  -  + ]:         30 :         if (sk->sk_state != TCP_CLOSE || inet->inet_num) {
     304                 :          0 :                 err = -EINVAL;
     305                 :          0 :                 goto out;
     306                 :            :         }
     307                 :            : 
     308                 :            :         /* Check if the address belongs to the host. */
     309         [ -  + ]:         30 :         if (addr_type == IPV6_ADDR_MAPPED) {
     310                 :          0 :                 struct net_device *dev = NULL;
     311                 :          0 :                 int chk_addr_ret;
     312                 :            : 
     313                 :            :                 /* Binding to v4-mapped address on a v6-only socket
     314                 :            :                  * makes no sense
     315                 :            :                  */
     316         [ #  # ]:          0 :                 if (sk->sk_ipv6only) {
     317                 :          0 :                         err = -EINVAL;
     318                 :          0 :                         goto out;
     319                 :            :                 }
     320                 :            : 
     321                 :          0 :                 rcu_read_lock();
     322         [ #  # ]:          0 :                 if (sk->sk_bound_dev_if) {
     323                 :          0 :                         dev = dev_get_by_index_rcu(net, sk->sk_bound_dev_if);
     324         [ #  # ]:          0 :                         if (!dev) {
     325                 :          0 :                                 err = -ENODEV;
     326                 :          0 :                                 goto out_unlock;
     327                 :            :                         }
     328                 :            :                 }
     329                 :            : 
     330                 :            :                 /* Reproduce AF_INET checks to make the bindings consistent */
     331                 :          0 :                 v4addr = addr->sin6_addr.s6_addr32[3];
     332                 :          0 :                 chk_addr_ret = inet_addr_type_dev_table(net, dev, v4addr);
     333                 :          0 :                 rcu_read_unlock();
     334                 :            : 
     335   [ #  #  #  # ]:          0 :                 if (!inet_can_nonlocal_bind(net, inet) &&
     336                 :          0 :                     v4addr != htonl(INADDR_ANY) &&
     337         [ #  # ]:          0 :                     chk_addr_ret != RTN_LOCAL &&
     338                 :          0 :                     chk_addr_ret != RTN_MULTICAST &&
     339         [ #  # ]:          0 :                     chk_addr_ret != RTN_BROADCAST) {
     340                 :          0 :                         err = -EADDRNOTAVAIL;
     341                 :          0 :                         goto out;
     342                 :            :                 }
     343                 :            :         } else {
     344         [ -  + ]:         30 :                 if (addr_type != IPV6_ADDR_ANY) {
     345                 :          0 :                         struct net_device *dev = NULL;
     346                 :            : 
     347                 :          0 :                         rcu_read_lock();
     348   [ #  #  #  # ]:          0 :                         if (__ipv6_addr_needs_scope_id(addr_type)) {
     349         [ #  # ]:          0 :                                 if (addr_len >= sizeof(struct sockaddr_in6) &&
     350         [ #  # ]:          0 :                                     addr->sin6_scope_id) {
     351                 :            :                                         /* Override any existing binding, if another one
     352                 :            :                                          * is supplied by user.
     353                 :            :                                          */
     354                 :          0 :                                         sk->sk_bound_dev_if = addr->sin6_scope_id;
     355                 :            :                                 }
     356                 :            : 
     357                 :            :                                 /* Binding to link-local address requires an interface */
     358         [ #  # ]:          0 :                                 if (!sk->sk_bound_dev_if) {
     359                 :          0 :                                         err = -EINVAL;
     360                 :          0 :                                         goto out_unlock;
     361                 :            :                                 }
     362                 :            :                         }
     363                 :            : 
     364         [ #  # ]:          0 :                         if (sk->sk_bound_dev_if) {
     365                 :          0 :                                 dev = dev_get_by_index_rcu(net, sk->sk_bound_dev_if);
     366         [ #  # ]:          0 :                                 if (!dev) {
     367                 :          0 :                                         err = -ENODEV;
     368                 :          0 :                                         goto out_unlock;
     369                 :            :                                 }
     370                 :            :                         }
     371                 :            : 
     372                 :            :                         /* ipv4 addr of the socket is invalid.  Only the
     373                 :            :                          * unspecified and mapped address have a v4 equivalent.
     374                 :            :                          */
     375                 :          0 :                         v4addr = LOOPBACK4_IPV6;
     376         [ #  # ]:          0 :                         if (!(addr_type & IPV6_ADDR_MULTICAST))     {
     377   [ #  #  #  #  :          0 :                                 if (!ipv6_can_nonlocal_bind(net, inet) &&
                   #  # ]
     378                 :          0 :                                     !ipv6_chk_addr(net, &addr->sin6_addr,
     379                 :            :                                                    dev, 0)) {
     380                 :          0 :                                         err = -EADDRNOTAVAIL;
     381                 :          0 :                                         goto out_unlock;
     382                 :            :                                 }
     383                 :            :                         }
     384                 :          0 :                         rcu_read_unlock();
     385                 :            :                 }
     386                 :            :         }
     387                 :            : 
     388                 :         30 :         inet->inet_rcv_saddr = v4addr;
     389                 :         30 :         inet->inet_saddr = v4addr;
     390                 :            : 
     391                 :         30 :         sk->sk_v6_rcv_saddr = addr->sin6_addr;
     392                 :            : 
     393         [ +  - ]:         30 :         if (!(addr_type & IPV6_ADDR_MULTICAST))
     394                 :         30 :                 np->saddr = addr->sin6_addr;
     395                 :            : 
     396                 :         30 :         saved_ipv6only = sk->sk_ipv6only;
     397         [ -  + ]:         30 :         if (addr_type != IPV6_ADDR_ANY && addr_type != IPV6_ADDR_MAPPED)
     398                 :          0 :                 sk->sk_ipv6only = 1;
     399                 :            : 
     400                 :            :         /* Make sure we are allowed to bind here. */
     401   [ -  +  -  -  :         30 :         if (snum || !(inet->bind_address_no_port ||
                   -  - ]
     402                 :            :                       force_bind_address_no_port)) {
     403         [ -  + ]:         30 :                 if (sk->sk_prot->get_port(sk, snum)) {
     404                 :          0 :                         sk->sk_ipv6only = saved_ipv6only;
     405                 :          0 :                         inet_reset_saddr(sk);
     406                 :          0 :                         err = -EADDRINUSE;
     407                 :          0 :                         goto out;
     408                 :            :                 }
     409                 :            :                 err = BPF_CGROUP_RUN_PROG_INET6_POST_BIND(sk);
     410                 :            :                 if (err) {
     411                 :            :                         sk->sk_ipv6only = saved_ipv6only;
     412                 :            :                         inet_reset_saddr(sk);
     413                 :            :                         goto out;
     414                 :            :                 }
     415                 :            :         }
     416                 :            : 
     417         [ -  + ]:         30 :         if (addr_type != IPV6_ADDR_ANY)
     418                 :          0 :                 sk->sk_userlocks |= SOCK_BINDADDR_LOCK;
     419         [ +  - ]:         30 :         if (snum)
     420                 :         30 :                 sk->sk_userlocks |= SOCK_BINDPORT_LOCK;
     421                 :         30 :         inet->inet_sport = htons(inet->inet_num);
     422                 :         30 :         inet->inet_dport = 0;
     423                 :         30 :         inet->inet_daddr = 0;
     424                 :         30 : out:
     425         [ +  - ]:         30 :         if (with_lock)
     426                 :         30 :                 release_sock(sk);
     427                 :            :         return err;
     428                 :          0 : out_unlock:
     429                 :          0 :         rcu_read_unlock();
     430                 :          0 :         goto out;
     431                 :            : }
     432                 :            : 
     433                 :            : /* bind for INET6 API */
     434                 :         30 : int inet6_bind(struct socket *sock, struct sockaddr *uaddr, int addr_len)
     435                 :            : {
     436                 :         30 :         struct sock *sk = sock->sk;
     437                 :         30 :         int err = 0;
     438                 :            : 
     439                 :            :         /* If the socket has its own bind function then use it. */
     440         [ -  + ]:         30 :         if (sk->sk_prot->bind)
     441                 :          0 :                 return sk->sk_prot->bind(sk, uaddr, addr_len);
     442                 :            : 
     443         [ +  - ]:         30 :         if (addr_len < SIN6_LEN_RFC2133)
     444                 :            :                 return -EINVAL;
     445                 :            : 
     446                 :            :         /* BPF prog is run before any checks are done so that if the prog
     447                 :            :          * changes context in a wrong way it will be caught.
     448                 :            :          */
     449                 :         30 :         err = BPF_CGROUP_RUN_PROG_INET6_BIND(sk, uaddr);
     450                 :         30 :         if (err)
     451                 :            :                 return err;
     452                 :            : 
     453                 :         30 :         return __inet6_bind(sk, uaddr, addr_len, false, true);
     454                 :            : }
     455                 :            : EXPORT_SYMBOL(inet6_bind);
     456                 :            : 
     457                 :         60 : int inet6_release(struct socket *sock)
     458                 :            : {
     459                 :         60 :         struct sock *sk = sock->sk;
     460                 :            : 
     461         [ +  - ]:         60 :         if (!sk)
     462                 :            :                 return -EINVAL;
     463                 :            : 
     464                 :            :         /* Free mc lists */
     465                 :         60 :         ipv6_sock_mc_close(sk);
     466                 :            : 
     467                 :            :         /* Free ac lists */
     468                 :         60 :         ipv6_sock_ac_close(sk);
     469                 :            : 
     470                 :         60 :         return inet_release(sock);
     471                 :            : }
     472                 :            : EXPORT_SYMBOL(inet6_release);
     473                 :            : 
     474                 :         60 : void inet6_destroy_sock(struct sock *sk)
     475                 :            : {
     476         [ +  - ]:         60 :         struct ipv6_pinfo *np = inet6_sk(sk);
     477                 :         60 :         struct sk_buff *skb;
     478                 :         60 :         struct ipv6_txoptions *opt;
     479                 :            : 
     480                 :            :         /* Release rx options */
     481                 :            : 
     482                 :         60 :         skb = xchg(&np->pktoptions, NULL);
     483                 :         60 :         kfree_skb(skb);
     484                 :            : 
     485                 :         60 :         skb = xchg(&np->rxpmtu, NULL);
     486                 :         60 :         kfree_skb(skb);
     487                 :            : 
     488                 :            :         /* Free flowlabels */
     489                 :         60 :         fl6_free_socklist(sk);
     490                 :            : 
     491                 :            :         /* Free tx options */
     492                 :            : 
     493                 :         60 :         opt = xchg((__force struct ipv6_txoptions **)&np->opt, NULL);
     494         [ -  + ]:         60 :         if (opt) {
     495                 :          0 :                 atomic_sub(opt->tot_len, &sk->sk_omem_alloc);
     496                 :          0 :                 txopt_put(opt);
     497                 :            :         }
     498                 :         60 : }
     499                 :            : EXPORT_SYMBOL_GPL(inet6_destroy_sock);
     500                 :            : 
     501                 :            : /*
     502                 :            :  *      This does both peername and sockname.
     503                 :            :  */
     504                 :            : 
     505                 :        120 : int inet6_getname(struct socket *sock, struct sockaddr *uaddr,
     506                 :            :                  int peer)
     507                 :            : {
     508                 :        120 :         struct sockaddr_in6 *sin = (struct sockaddr_in6 *)uaddr;
     509                 :        120 :         struct sock *sk = sock->sk;
     510         [ +  - ]:        120 :         struct inet_sock *inet = inet_sk(sk);
     511         [ +  - ]:        120 :         struct ipv6_pinfo *np = inet6_sk(sk);
     512                 :            : 
     513                 :        120 :         sin->sin6_family = AF_INET6;
     514                 :        120 :         sin->sin6_flowinfo = 0;
     515                 :        120 :         sin->sin6_scope_id = 0;
     516         [ -  + ]:        120 :         if (peer) {
     517         [ #  # ]:          0 :                 if (!inet->inet_dport)
     518                 :            :                         return -ENOTCONN;
     519   [ #  #  #  # ]:          0 :                 if (((1 << sk->sk_state) & (TCPF_CLOSE | TCPF_SYN_SENT)) &&
     520                 :            :                     peer == 1)
     521                 :            :                         return -ENOTCONN;
     522                 :          0 :                 sin->sin6_port = inet->inet_dport;
     523                 :          0 :                 sin->sin6_addr = sk->sk_v6_daddr;
     524         [ #  # ]:          0 :                 if (np->sndflow)
     525                 :          0 :                         sin->sin6_flowinfo = np->flow_label;
     526                 :            :         } else {
     527         [ -  + ]:        120 :                 if (ipv6_addr_any(&sk->sk_v6_rcv_saddr))
     528                 :          0 :                         sin->sin6_addr = np->saddr;
     529                 :            :                 else
     530                 :        120 :                         sin->sin6_addr = sk->sk_v6_rcv_saddr;
     531                 :            : 
     532                 :        120 :                 sin->sin6_port = inet->inet_sport;
     533                 :            :         }
     534                 :        120 :         sin->sin6_scope_id = ipv6_iface_scope_id(&sin->sin6_addr,
     535                 :            :                                                  sk->sk_bound_dev_if);
     536                 :        120 :         return sizeof(*sin);
     537                 :            : }
     538                 :            : EXPORT_SYMBOL(inet6_getname);
     539                 :            : 
     540                 :          0 : int inet6_ioctl(struct socket *sock, unsigned int cmd, unsigned long arg)
     541                 :            : {
     542                 :          0 :         struct sock *sk = sock->sk;
     543   [ #  #  #  #  :          0 :         struct net *net = sock_net(sk);
                      # ]
     544                 :            : 
     545   [ #  #  #  #  :          0 :         switch (cmd) {
                      # ]
     546                 :          0 :         case SIOCADDRT:
     547                 :            :         case SIOCDELRT:
     548                 :            : 
     549                 :          0 :                 return ipv6_route_ioctl(net, cmd, (void __user *)arg);
     550                 :            : 
     551                 :          0 :         case SIOCSIFADDR:
     552                 :          0 :                 return addrconf_add_ifaddr(net, (void __user *) arg);
     553                 :          0 :         case SIOCDIFADDR:
     554                 :          0 :                 return addrconf_del_ifaddr(net, (void __user *) arg);
     555                 :          0 :         case SIOCSIFDSTADDR:
     556                 :          0 :                 return addrconf_set_dstaddr(net, (void __user *) arg);
     557                 :          0 :         default:
     558         [ #  # ]:          0 :                 if (!sk->sk_prot->ioctl)
     559                 :            :                         return -ENOIOCTLCMD;
     560                 :          0 :                 return sk->sk_prot->ioctl(sk, cmd, arg);
     561                 :            :         }
     562                 :            :         /*NOTREACHED*/
     563                 :            :         return 0;
     564                 :            : }
     565                 :            : EXPORT_SYMBOL(inet6_ioctl);
     566                 :            : 
     567                 :            : INDIRECT_CALLABLE_DECLARE(int udpv6_sendmsg(struct sock *, struct msghdr *,
     568                 :            :                                             size_t));
     569                 :          0 : int inet6_sendmsg(struct socket *sock, struct msghdr *msg, size_t size)
     570                 :            : {
     571                 :          0 :         struct sock *sk = sock->sk;
     572                 :            : 
     573         [ #  # ]:          0 :         if (unlikely(inet_send_prepare(sk)))
     574                 :            :                 return -EAGAIN;
     575                 :            : 
     576   [ #  #  #  # ]:          0 :         return INDIRECT_CALL_2(sk->sk_prot->sendmsg, tcp_sendmsg, udpv6_sendmsg,
     577                 :            :                                sk, msg, size);
     578                 :            : }
     579                 :            : 
     580                 :            : INDIRECT_CALLABLE_DECLARE(int udpv6_recvmsg(struct sock *, struct msghdr *,
     581                 :            :                                             size_t, int, int, int *));
     582                 :          0 : int inet6_recvmsg(struct socket *sock, struct msghdr *msg, size_t size,
     583                 :            :                   int flags)
     584                 :            : {
     585                 :          0 :         struct sock *sk = sock->sk;
     586                 :          0 :         int addr_len = 0;
     587                 :          0 :         int err;
     588                 :            : 
     589         [ #  # ]:          0 :         if (likely(!(flags & MSG_ERRQUEUE)))
     590                 :          0 :                 sock_rps_record_flow(sk);
     591                 :            : 
     592   [ #  #  #  # ]:          0 :         err = INDIRECT_CALL_2(sk->sk_prot->recvmsg, tcp_recvmsg, udpv6_recvmsg,
     593                 :            :                               sk, msg, size, flags & MSG_DONTWAIT,
     594                 :            :                               flags & ~MSG_DONTWAIT, &addr_len);
     595         [ #  # ]:          0 :         if (err >= 0)
     596                 :          0 :                 msg->msg_namelen = addr_len;
     597                 :          0 :         return err;
     598                 :            : }
     599                 :            : 
     600                 :            : const struct proto_ops inet6_stream_ops = {
     601                 :            :         .family            = PF_INET6,
     602                 :            :         .owner             = THIS_MODULE,
     603                 :            :         .release           = inet6_release,
     604                 :            :         .bind              = inet6_bind,
     605                 :            :         .connect           = inet_stream_connect,       /* ok           */
     606                 :            :         .socketpair        = sock_no_socketpair,        /* a do nothing */
     607                 :            :         .accept            = inet_accept,               /* ok           */
     608                 :            :         .getname           = inet6_getname,
     609                 :            :         .poll              = tcp_poll,                  /* ok           */
     610                 :            :         .ioctl             = inet6_ioctl,               /* must change  */
     611                 :            :         .gettstamp         = sock_gettstamp,
     612                 :            :         .listen            = inet_listen,               /* ok           */
     613                 :            :         .shutdown          = inet_shutdown,             /* ok           */
     614                 :            :         .setsockopt        = sock_common_setsockopt,    /* ok           */
     615                 :            :         .getsockopt        = sock_common_getsockopt,    /* ok           */
     616                 :            :         .sendmsg           = inet6_sendmsg,             /* retpoline's sake */
     617                 :            :         .recvmsg           = inet6_recvmsg,             /* retpoline's sake */
     618                 :            : #ifdef CONFIG_MMU
     619                 :            :         .mmap              = tcp_mmap,
     620                 :            : #endif
     621                 :            :         .sendpage          = inet_sendpage,
     622                 :            :         .sendmsg_locked    = tcp_sendmsg_locked,
     623                 :            :         .sendpage_locked   = tcp_sendpage_locked,
     624                 :            :         .splice_read       = tcp_splice_read,
     625                 :            :         .read_sock         = tcp_read_sock,
     626                 :            :         .peek_len          = tcp_peek_len,
     627                 :            : #ifdef CONFIG_COMPAT
     628                 :            :         .compat_setsockopt = compat_sock_common_setsockopt,
     629                 :            :         .compat_getsockopt = compat_sock_common_getsockopt,
     630                 :            : #endif
     631                 :            :         .set_rcvlowat      = tcp_set_rcvlowat,
     632                 :            : };
     633                 :            : 
     634                 :            : const struct proto_ops inet6_dgram_ops = {
     635                 :            :         .family            = PF_INET6,
     636                 :            :         .owner             = THIS_MODULE,
     637                 :            :         .release           = inet6_release,
     638                 :            :         .bind              = inet6_bind,
     639                 :            :         .connect           = inet_dgram_connect,        /* ok           */
     640                 :            :         .socketpair        = sock_no_socketpair,        /* a do nothing */
     641                 :            :         .accept            = sock_no_accept,            /* a do nothing */
     642                 :            :         .getname           = inet6_getname,
     643                 :            :         .poll              = udp_poll,                  /* ok           */
     644                 :            :         .ioctl             = inet6_ioctl,               /* must change  */
     645                 :            :         .gettstamp         = sock_gettstamp,
     646                 :            :         .listen            = sock_no_listen,            /* ok           */
     647                 :            :         .shutdown          = inet_shutdown,             /* ok           */
     648                 :            :         .setsockopt        = sock_common_setsockopt,    /* ok           */
     649                 :            :         .getsockopt        = sock_common_getsockopt,    /* ok           */
     650                 :            :         .sendmsg           = inet6_sendmsg,             /* retpoline's sake */
     651                 :            :         .recvmsg           = inet6_recvmsg,             /* retpoline's sake */
     652                 :            :         .mmap              = sock_no_mmap,
     653                 :            :         .sendpage          = sock_no_sendpage,
     654                 :            :         .set_peek_off      = sk_set_peek_off,
     655                 :            : #ifdef CONFIG_COMPAT
     656                 :            :         .compat_setsockopt = compat_sock_common_setsockopt,
     657                 :            :         .compat_getsockopt = compat_sock_common_getsockopt,
     658                 :            : #endif
     659                 :            : };
     660                 :            : 
     661                 :            : static const struct net_proto_family inet6_family_ops = {
     662                 :            :         .family = PF_INET6,
     663                 :            :         .create = inet6_create,
     664                 :            :         .owner  = THIS_MODULE,
     665                 :            : };
     666                 :            : 
     667                 :        150 : int inet6_register_protosw(struct inet_protosw *p)
     668                 :            : {
     669                 :        150 :         struct list_head *lh;
     670                 :        150 :         struct inet_protosw *answer;
     671                 :        150 :         struct list_head *last_perm;
     672                 :        150 :         int protocol = p->protocol;
     673                 :        150 :         int ret;
     674                 :            : 
     675                 :        150 :         spin_lock_bh(&inetsw6_lock);
     676                 :            : 
     677                 :        150 :         ret = -EINVAL;
     678         [ -  + ]:        150 :         if (p->type >= SOCK_MAX)
     679                 :          0 :                 goto out_illegal;
     680                 :            : 
     681                 :            :         /* If we are trying to override a permanent protocol, bail. */
     682                 :        150 :         answer = NULL;
     683                 :        150 :         ret = -EPERM;
     684                 :        150 :         last_perm = &inetsw6[p->type];
     685         [ +  + ]:        240 :         list_for_each(lh, &inetsw6[p->type]) {
     686                 :         90 :                 answer = list_entry(lh, struct inet_protosw, list);
     687                 :            : 
     688                 :            :                 /* Check only the non-wild match. */
     689         [ +  - ]:         90 :                 if (INET_PROTOSW_PERMANENT & answer->flags) {
     690         [ +  - ]:         90 :                         if (protocol == answer->protocol)
     691                 :            :                                 break;
     692                 :            :                         last_perm = lh;
     693                 :            :                 }
     694                 :            : 
     695                 :         90 :                 answer = NULL;
     696                 :            :         }
     697         [ -  + ]:        150 :         if (answer)
     698                 :          0 :                 goto out_permanent;
     699                 :            : 
     700                 :            :         /* Add the new entry after the last permanent entry if any, so that
     701                 :            :          * the new entry does not override a permanent entry when matched with
     702                 :            :          * a wild-card protocol. But it is allowed to override any existing
     703                 :            :          * non-permanent entry.  This means that when we remove this entry, the
     704                 :            :          * system automatically returns to the old behavior.
     705                 :            :          */
     706                 :        150 :         list_add_rcu(&p->list, last_perm);
     707                 :        150 :         ret = 0;
     708                 :        150 : out:
     709                 :        150 :         spin_unlock_bh(&inetsw6_lock);
     710                 :        150 :         return ret;
     711                 :            : 
     712                 :            : out_permanent:
     713                 :          0 :         pr_err("Attempt to override permanent protocol %d\n", protocol);
     714                 :          0 :         goto out;
     715                 :            : 
     716                 :            : out_illegal:
     717                 :          0 :         pr_err("Ignoring attempt to register invalid socket type %d\n",
     718                 :            :                p->type);
     719                 :          0 :         goto out;
     720                 :            : }
     721                 :            : EXPORT_SYMBOL(inet6_register_protosw);
     722                 :            : 
     723                 :            : void
     724                 :          0 : inet6_unregister_protosw(struct inet_protosw *p)
     725                 :            : {
     726         [ #  # ]:          0 :         if (INET_PROTOSW_PERMANENT & p->flags) {
     727                 :          0 :                 pr_err("Attempt to unregister permanent protocol %d\n",
     728                 :            :                        p->protocol);
     729                 :            :         } else {
     730                 :          0 :                 spin_lock_bh(&inetsw6_lock);
     731                 :          0 :                 list_del_rcu(&p->list);
     732                 :          0 :                 spin_unlock_bh(&inetsw6_lock);
     733                 :            : 
     734                 :          0 :                 synchronize_net();
     735                 :            :         }
     736                 :          0 : }
     737                 :            : EXPORT_SYMBOL(inet6_unregister_protosw);
     738                 :            : 
     739                 :          0 : int inet6_sk_rebuild_header(struct sock *sk)
     740                 :            : {
     741         [ #  # ]:          0 :         struct ipv6_pinfo *np = inet6_sk(sk);
     742                 :          0 :         struct dst_entry *dst;
     743                 :            : 
     744                 :          0 :         dst = __sk_dst_check(sk, np->dst_cookie);
     745                 :            : 
     746         [ #  # ]:          0 :         if (!dst) {
     747                 :          0 :                 struct inet_sock *inet = inet_sk(sk);
     748                 :          0 :                 struct in6_addr *final_p, final;
     749                 :          0 :                 struct flowi6 fl6;
     750                 :            : 
     751                 :          0 :                 memset(&fl6, 0, sizeof(fl6));
     752                 :          0 :                 fl6.flowi6_proto = sk->sk_protocol;
     753                 :          0 :                 fl6.daddr = sk->sk_v6_daddr;
     754                 :          0 :                 fl6.saddr = np->saddr;
     755                 :          0 :                 fl6.flowlabel = np->flow_label;
     756                 :          0 :                 fl6.flowi6_oif = sk->sk_bound_dev_if;
     757                 :          0 :                 fl6.flowi6_mark = sk->sk_mark;
     758                 :          0 :                 fl6.fl6_dport = inet->inet_dport;
     759                 :          0 :                 fl6.fl6_sport = inet->inet_sport;
     760                 :          0 :                 fl6.flowi6_uid = sk->sk_uid;
     761                 :          0 :                 security_sk_classify_flow(sk, flowi6_to_flowi(&fl6));
     762                 :            : 
     763                 :          0 :                 rcu_read_lock();
     764                 :          0 :                 final_p = fl6_update_dst(&fl6, rcu_dereference(np->opt),
     765                 :            :                                          &final);
     766                 :          0 :                 rcu_read_unlock();
     767                 :            : 
     768                 :          0 :                 dst = ip6_dst_lookup_flow(sock_net(sk), sk, &fl6, final_p);
     769         [ #  # ]:          0 :                 if (IS_ERR(dst)) {
     770                 :          0 :                         sk->sk_route_caps = 0;
     771                 :          0 :                         sk->sk_err_soft = -PTR_ERR(dst);
     772                 :          0 :                         return PTR_ERR(dst);
     773                 :            :                 }
     774                 :            : 
     775                 :          0 :                 ip6_dst_store(sk, dst, NULL, NULL);
     776                 :            :         }
     777                 :            : 
     778                 :            :         return 0;
     779                 :            : }
     780                 :            : EXPORT_SYMBOL_GPL(inet6_sk_rebuild_header);
     781                 :            : 
     782                 :          0 : bool ipv6_opt_accepted(const struct sock *sk, const struct sk_buff *skb,
     783                 :            :                        const struct inet6_skb_parm *opt)
     784                 :            : {
     785         [ #  # ]:          0 :         const struct ipv6_pinfo *np = inet6_sk(sk);
     786                 :            : 
     787         [ #  # ]:          0 :         if (np->rxopt.all) {
     788         [ #  # ]:          0 :                 if (((opt->flags & IP6SKB_HOPBYHOP) &&
     789   [ #  #  #  # ]:          0 :                      (np->rxopt.bits.hopopts || np->rxopt.bits.ohopopts)) ||
     790   [ #  #  #  # ]:          0 :                     (ip6_flowinfo((struct ipv6hdr *) skb_network_header(skb)) &&
     791                 :          0 :                      np->rxopt.bits.rxflow) ||
     792   [ #  #  #  # ]:          0 :                     (opt->srcrt && (np->rxopt.bits.srcrt ||
     793                 :          0 :                      np->rxopt.bits.osrcrt)) ||
     794   [ #  #  #  # ]:          0 :                     ((opt->dst1 || opt->dst0) &&
     795         [ #  # ]:          0 :                      (np->rxopt.bits.dstopts || np->rxopt.bits.odstopts)))
     796                 :          0 :                         return true;
     797                 :            :         }
     798                 :            :         return false;
     799                 :            : }
     800                 :            : EXPORT_SYMBOL_GPL(ipv6_opt_accepted);
     801                 :            : 
     802                 :            : static struct packet_type ipv6_packet_type __read_mostly = {
     803                 :            :         .type = cpu_to_be16(ETH_P_IPV6),
     804                 :            :         .func = ipv6_rcv,
     805                 :            :         .list_func = ipv6_list_rcv,
     806                 :            : };
     807                 :            : 
     808                 :         30 : static int __init ipv6_packet_init(void)
     809                 :            : {
     810                 :         30 :         dev_add_pack(&ipv6_packet_type);
     811                 :         30 :         return 0;
     812                 :            : }
     813                 :            : 
     814                 :          0 : static void ipv6_packet_cleanup(void)
     815                 :            : {
     816                 :          0 :         dev_remove_pack(&ipv6_packet_type);
     817                 :            : }
     818                 :            : 
     819                 :         30 : static int __net_init ipv6_init_mibs(struct net *net)
     820                 :            : {
     821                 :         30 :         int i;
     822                 :            : 
     823                 :         30 :         net->mib.udp_stats_in6 = alloc_percpu(struct udp_mib);
     824         [ +  - ]:         30 :         if (!net->mib.udp_stats_in6)
     825                 :            :                 return -ENOMEM;
     826                 :         30 :         net->mib.udplite_stats_in6 = alloc_percpu(struct udp_mib);
     827         [ -  + ]:         30 :         if (!net->mib.udplite_stats_in6)
     828                 :          0 :                 goto err_udplite_mib;
     829                 :         30 :         net->mib.ipv6_statistics = alloc_percpu(struct ipstats_mib);
     830         [ -  + ]:         30 :         if (!net->mib.ipv6_statistics)
     831                 :          0 :                 goto err_ip_mib;
     832                 :            : 
     833         [ +  + ]:         60 :         for_each_possible_cpu(i) {
     834                 :         30 :                 struct ipstats_mib *af_inet6_stats;
     835                 :         30 :                 af_inet6_stats = per_cpu_ptr(net->mib.ipv6_statistics, i);
     836                 :         30 :                 u64_stats_init(&af_inet6_stats->syncp);
     837                 :            :         }
     838                 :            : 
     839                 :            : 
     840                 :         30 :         net->mib.icmpv6_statistics = alloc_percpu(struct icmpv6_mib);
     841         [ -  + ]:         30 :         if (!net->mib.icmpv6_statistics)
     842                 :          0 :                 goto err_icmp_mib;
     843                 :         30 :         net->mib.icmpv6msg_statistics = kzalloc(sizeof(struct icmpv6msg_mib),
     844                 :            :                                                 GFP_KERNEL);
     845         [ -  + ]:         30 :         if (!net->mib.icmpv6msg_statistics)
     846                 :          0 :                 goto err_icmpmsg_mib;
     847                 :            :         return 0;
     848                 :            : 
     849                 :            : err_icmpmsg_mib:
     850                 :          0 :         free_percpu(net->mib.icmpv6_statistics);
     851                 :          0 : err_icmp_mib:
     852                 :          0 :         free_percpu(net->mib.ipv6_statistics);
     853                 :          0 : err_ip_mib:
     854                 :          0 :         free_percpu(net->mib.udplite_stats_in6);
     855                 :          0 : err_udplite_mib:
     856                 :          0 :         free_percpu(net->mib.udp_stats_in6);
     857                 :          0 :         return -ENOMEM;
     858                 :            : }
     859                 :            : 
     860                 :          0 : static void ipv6_cleanup_mibs(struct net *net)
     861                 :            : {
     862                 :          0 :         free_percpu(net->mib.udp_stats_in6);
     863                 :          0 :         free_percpu(net->mib.udplite_stats_in6);
     864                 :          0 :         free_percpu(net->mib.ipv6_statistics);
     865                 :          0 :         free_percpu(net->mib.icmpv6_statistics);
     866                 :          0 :         kfree(net->mib.icmpv6msg_statistics);
     867                 :          0 : }
     868                 :            : 
     869                 :         30 : static int __net_init inet6_net_init(struct net *net)
     870                 :            : {
     871                 :         30 :         int err = 0;
     872                 :            : 
     873                 :         30 :         net->ipv6.sysctl.bindv6only = 0;
     874                 :         30 :         net->ipv6.sysctl.icmpv6_time = 1*HZ;
     875                 :         30 :         net->ipv6.sysctl.icmpv6_echo_ignore_all = 0;
     876                 :         30 :         net->ipv6.sysctl.icmpv6_echo_ignore_multicast = 0;
     877                 :         30 :         net->ipv6.sysctl.icmpv6_echo_ignore_anycast = 0;
     878                 :            : 
     879                 :            :         /* By default, rate limit error messages.
     880                 :            :          * Except for pmtu discovery, it would break it.
     881                 :            :          * proc_do_large_bitmap needs pointer to the bitmap.
     882                 :            :          */
     883                 :         30 :         bitmap_set(net->ipv6.sysctl.icmpv6_ratemask, 0, ICMPV6_ERRMSG_MAX + 1);
     884                 :         30 :         bitmap_clear(net->ipv6.sysctl.icmpv6_ratemask, ICMPV6_PKT_TOOBIG, 1);
     885                 :         30 :         net->ipv6.sysctl.icmpv6_ratemask_ptr = net->ipv6.sysctl.icmpv6_ratemask;
     886                 :            : 
     887                 :         30 :         net->ipv6.sysctl.flowlabel_consistency = 1;
     888                 :         30 :         net->ipv6.sysctl.auto_flowlabels = IP6_DEFAULT_AUTO_FLOW_LABELS;
     889                 :         30 :         net->ipv6.sysctl.idgen_retries = 3;
     890                 :         30 :         net->ipv6.sysctl.idgen_delay = 1 * HZ;
     891                 :         30 :         net->ipv6.sysctl.flowlabel_state_ranges = 0;
     892                 :         30 :         net->ipv6.sysctl.max_dst_opts_cnt = IP6_DEFAULT_MAX_DST_OPTS_CNT;
     893                 :         30 :         net->ipv6.sysctl.max_hbh_opts_cnt = IP6_DEFAULT_MAX_HBH_OPTS_CNT;
     894                 :         30 :         net->ipv6.sysctl.max_dst_opts_len = IP6_DEFAULT_MAX_DST_OPTS_LEN;
     895                 :         30 :         net->ipv6.sysctl.max_hbh_opts_len = IP6_DEFAULT_MAX_HBH_OPTS_LEN;
     896                 :         30 :         atomic_set(&net->ipv6.fib6_sernum, 1);
     897                 :            : 
     898                 :         30 :         err = ipv6_init_mibs(net);
     899         [ +  - ]:         30 :         if (err)
     900                 :            :                 return err;
     901                 :            : #ifdef CONFIG_PROC_FS
     902                 :         30 :         err = udp6_proc_init(net);
     903         [ -  + ]:         30 :         if (err)
     904                 :          0 :                 goto out;
     905                 :         30 :         err = tcp6_proc_init(net);
     906         [ -  + ]:         30 :         if (err)
     907                 :          0 :                 goto proc_tcp6_fail;
     908                 :         30 :         err = ac6_proc_init(net);
     909         [ -  + ]:         30 :         if (err)
     910                 :          0 :                 goto proc_ac6_fail;
     911                 :            : #endif
     912                 :            :         return err;
     913                 :            : 
     914                 :            : #ifdef CONFIG_PROC_FS
     915                 :            : proc_ac6_fail:
     916                 :          0 :         tcp6_proc_exit(net);
     917                 :          0 : proc_tcp6_fail:
     918                 :          0 :         udp6_proc_exit(net);
     919                 :          0 : out:
     920                 :          0 :         ipv6_cleanup_mibs(net);
     921                 :          0 :         return err;
     922                 :            : #endif
     923                 :            : }
     924                 :            : 
     925                 :          0 : static void __net_exit inet6_net_exit(struct net *net)
     926                 :            : {
     927                 :            : #ifdef CONFIG_PROC_FS
     928                 :          0 :         udp6_proc_exit(net);
     929                 :          0 :         tcp6_proc_exit(net);
     930                 :          0 :         ac6_proc_exit(net);
     931                 :            : #endif
     932                 :          0 :         ipv6_cleanup_mibs(net);
     933                 :          0 : }
     934                 :            : 
     935                 :            : static struct pernet_operations inet6_net_ops = {
     936                 :            :         .init = inet6_net_init,
     937                 :            :         .exit = inet6_net_exit,
     938                 :            : };
     939                 :            : 
     940                 :          0 : static int ipv6_route_input(struct sk_buff *skb)
     941                 :            : {
     942                 :          0 :         ip6_route_input(skb);
     943                 :          0 :         return skb_dst(skb)->error;
     944                 :            : }
     945                 :            : 
     946                 :            : static const struct ipv6_stub ipv6_stub_impl = {
     947                 :            :         .ipv6_sock_mc_join = ipv6_sock_mc_join,
     948                 :            :         .ipv6_sock_mc_drop = ipv6_sock_mc_drop,
     949                 :            :         .ipv6_dst_lookup_flow = ip6_dst_lookup_flow,
     950                 :            :         .ipv6_route_input  = ipv6_route_input,
     951                 :            :         .fib6_get_table    = fib6_get_table,
     952                 :            :         .fib6_table_lookup = fib6_table_lookup,
     953                 :            :         .fib6_lookup       = fib6_lookup,
     954                 :            :         .fib6_select_path  = fib6_select_path,
     955                 :            :         .ip6_mtu_from_fib6 = ip6_mtu_from_fib6,
     956                 :            :         .fib6_nh_init      = fib6_nh_init,
     957                 :            :         .fib6_nh_release   = fib6_nh_release,
     958                 :            :         .fib6_update_sernum = fib6_update_sernum_stub,
     959                 :            :         .fib6_rt_update    = fib6_rt_update,
     960                 :            :         .ip6_del_rt        = ip6_del_rt,
     961                 :            :         .udpv6_encap_enable = udpv6_encap_enable,
     962                 :            :         .ndisc_send_na = ndisc_send_na,
     963                 :            :         .nd_tbl = &nd_tbl,
     964                 :            : };
     965                 :            : 
     966                 :            : static const struct ipv6_bpf_stub ipv6_bpf_stub_impl = {
     967                 :            :         .inet6_bind = __inet6_bind,
     968                 :            :         .udp6_lib_lookup = __udp6_lib_lookup,
     969                 :            : };
     970                 :            : 
     971                 :         30 : static int __init inet6_init(void)
     972                 :            : {
     973                 :         30 :         struct list_head *r;
     974                 :         30 :         int err = 0;
     975                 :            : 
     976                 :         30 :         sock_skb_cb_check_size(sizeof(struct inet6_skb_parm));
     977                 :            : 
     978                 :            :         /* Register the socket-side information for inet6_create.  */
     979         [ +  + ]:        360 :         for (r = &inetsw6[0]; r < &inetsw6[SOCK_MAX]; ++r)
     980                 :        330 :                 INIT_LIST_HEAD(r);
     981                 :            : 
     982         [ -  + ]:         30 :         if (disable_ipv6_mod) {
     983                 :          0 :                 pr_info("Loaded, but administratively disabled, reboot required to enable\n");
     984                 :          0 :                 goto out;
     985                 :            :         }
     986                 :            : 
     987                 :         30 :         err = proto_register(&tcpv6_prot, 1);
     988         [ -  + ]:         30 :         if (err)
     989                 :          0 :                 goto out;
     990                 :            : 
     991                 :         30 :         err = proto_register(&udpv6_prot, 1);
     992         [ -  + ]:         30 :         if (err)
     993                 :          0 :                 goto out_unregister_tcp_proto;
     994                 :            : 
     995                 :         30 :         err = proto_register(&udplitev6_prot, 1);
     996         [ -  + ]:         30 :         if (err)
     997                 :          0 :                 goto out_unregister_udp_proto;
     998                 :            : 
     999                 :         30 :         err = proto_register(&rawv6_prot, 1);
    1000         [ -  + ]:         30 :         if (err)
    1001                 :          0 :                 goto out_unregister_udplite_proto;
    1002                 :            : 
    1003                 :         30 :         err = proto_register(&pingv6_prot, 1);
    1004         [ -  + ]:         30 :         if (err)
    1005                 :          0 :                 goto out_unregister_raw_proto;
    1006                 :            : 
    1007                 :            :         /* We MUST register RAW sockets before we create the ICMP6,
    1008                 :            :          * IGMP6, or NDISC control sockets.
    1009                 :            :          */
    1010                 :         30 :         err = rawv6_init();
    1011         [ -  + ]:         30 :         if (err)
    1012                 :          0 :                 goto out_unregister_ping_proto;
    1013                 :            : 
    1014                 :            :         /* Register the family here so that the init calls below will
    1015                 :            :          * be able to create sockets. (?? is this dangerous ??)
    1016                 :            :          */
    1017                 :         30 :         err = sock_register(&inet6_family_ops);
    1018         [ -  + ]:         30 :         if (err)
    1019                 :          0 :                 goto out_sock_register_fail;
    1020                 :            : 
    1021                 :            :         /*
    1022                 :            :          *      ipngwg API draft makes clear that the correct semantics
    1023                 :            :          *      for TCP and UDP is to consider one TCP and UDP instance
    1024                 :            :          *      in a host available by both INET and INET6 APIs and
    1025                 :            :          *      able to communicate via both network protocols.
    1026                 :            :          */
    1027                 :            : 
    1028                 :         30 :         err = register_pernet_subsys(&inet6_net_ops);
    1029         [ -  + ]:         30 :         if (err)
    1030                 :          0 :                 goto register_pernet_fail;
    1031                 :         30 :         err = ip6_mr_init();
    1032                 :         30 :         if (err)
    1033                 :            :                 goto ipmr_fail;
    1034                 :         30 :         err = icmpv6_init();
    1035         [ -  + ]:         30 :         if (err)
    1036                 :          0 :                 goto icmp_fail;
    1037                 :         30 :         err = ndisc_init();
    1038         [ -  + ]:         30 :         if (err)
    1039                 :          0 :                 goto ndisc_fail;
    1040                 :         30 :         err = igmp6_init();
    1041         [ -  + ]:         30 :         if (err)
    1042                 :          0 :                 goto igmp_fail;
    1043                 :            : 
    1044                 :         30 :         err = ipv6_netfilter_init();
    1045         [ -  + ]:         30 :         if (err)
    1046                 :          0 :                 goto netfilter_fail;
    1047                 :            :         /* Create /proc/foo6 entries. */
    1048                 :            : #ifdef CONFIG_PROC_FS
    1049                 :         30 :         err = -ENOMEM;
    1050         [ -  + ]:         30 :         if (raw6_proc_init())
    1051                 :          0 :                 goto proc_raw6_fail;
    1052         [ -  + ]:         30 :         if (udplite6_proc_init())
    1053                 :          0 :                 goto proc_udplite6_fail;
    1054         [ -  + ]:         30 :         if (ipv6_misc_proc_init())
    1055                 :          0 :                 goto proc_misc6_fail;
    1056         [ -  + ]:         30 :         if (if6_proc_init())
    1057                 :          0 :                 goto proc_if6_fail;
    1058                 :            : #endif
    1059                 :         30 :         err = ip6_route_init();
    1060         [ -  + ]:         30 :         if (err)
    1061                 :          0 :                 goto ip6_route_fail;
    1062                 :         30 :         err = ndisc_late_init();
    1063         [ -  + ]:         30 :         if (err)
    1064                 :          0 :                 goto ndisc_late_fail;
    1065                 :         30 :         err = ip6_flowlabel_init();
    1066         [ -  + ]:         30 :         if (err)
    1067                 :          0 :                 goto ip6_flowlabel_fail;
    1068                 :         30 :         err = ipv6_anycast_init();
    1069         [ -  + ]:         30 :         if (err)
    1070                 :          0 :                 goto ipv6_anycast_fail;
    1071                 :         30 :         err = addrconf_init();
    1072         [ -  + ]:         30 :         if (err)
    1073                 :          0 :                 goto addrconf_fail;
    1074                 :            : 
    1075                 :            :         /* Init v6 extension headers. */
    1076                 :         30 :         err = ipv6_exthdrs_init();
    1077         [ -  + ]:         30 :         if (err)
    1078                 :          0 :                 goto ipv6_exthdrs_fail;
    1079                 :            : 
    1080                 :         30 :         err = ipv6_frag_init();
    1081         [ -  + ]:         30 :         if (err)
    1082                 :          0 :                 goto ipv6_frag_fail;
    1083                 :            : 
    1084                 :            :         /* Init v6 transport protocols. */
    1085                 :         30 :         err = udpv6_init();
    1086         [ -  + ]:         30 :         if (err)
    1087                 :          0 :                 goto udpv6_fail;
    1088                 :            : 
    1089                 :         30 :         err = udplitev6_init();
    1090         [ -  + ]:         30 :         if (err)
    1091                 :          0 :                 goto udplitev6_fail;
    1092                 :            : 
    1093                 :         30 :         err = udpv6_offload_init();
    1094         [ -  + ]:         30 :         if (err)
    1095                 :          0 :                 goto udpv6_offload_fail;
    1096                 :            : 
    1097                 :         30 :         err = tcpv6_init();
    1098         [ -  + ]:         30 :         if (err)
    1099                 :          0 :                 goto tcpv6_fail;
    1100                 :            : 
    1101                 :         30 :         err = ipv6_packet_init();
    1102                 :         30 :         if (err)
    1103                 :            :                 goto ipv6_packet_fail;
    1104                 :            : 
    1105                 :         30 :         err = pingv6_init();
    1106         [ -  + ]:         30 :         if (err)
    1107                 :          0 :                 goto pingv6_fail;
    1108                 :            : 
    1109                 :         30 :         err = calipso_init();
    1110         [ -  + ]:         30 :         if (err)
    1111                 :          0 :                 goto calipso_fail;
    1112                 :            : 
    1113                 :         30 :         err = seg6_init();
    1114         [ -  + ]:         30 :         if (err)
    1115                 :          0 :                 goto seg6_fail;
    1116                 :            : 
    1117                 :         30 :         err = igmp6_late_init();
    1118         [ -  + ]:         30 :         if (err)
    1119                 :          0 :                 goto igmp6_late_err;
    1120                 :            : 
    1121                 :            : #ifdef CONFIG_SYSCTL
    1122                 :         30 :         err = ipv6_sysctl_register();
    1123         [ -  + ]:         30 :         if (err)
    1124                 :          0 :                 goto sysctl_fail;
    1125                 :            : #endif
    1126                 :            : 
    1127                 :            :         /* ensure that ipv6 stubs are visible only after ipv6 is ready */
    1128                 :         30 :         wmb();
    1129                 :         30 :         ipv6_stub = &ipv6_stub_impl;
    1130                 :         30 :         ipv6_bpf_stub = &ipv6_bpf_stub_impl;
    1131                 :         30 : out:
    1132                 :         30 :         return err;
    1133                 :            : 
    1134                 :            : #ifdef CONFIG_SYSCTL
    1135                 :            : sysctl_fail:
    1136                 :          0 :         igmp6_late_cleanup();
    1137                 :            : #endif
    1138                 :          0 : igmp6_late_err:
    1139                 :          0 :         seg6_exit();
    1140                 :          0 : seg6_fail:
    1141                 :          0 :         calipso_exit();
    1142                 :          0 : calipso_fail:
    1143                 :          0 :         pingv6_exit();
    1144                 :          0 : pingv6_fail:
    1145                 :          0 :         ipv6_packet_cleanup();
    1146                 :            : ipv6_packet_fail:
    1147                 :          0 :         tcpv6_exit();
    1148                 :          0 : tcpv6_fail:
    1149                 :          0 :         udpv6_offload_exit();
    1150                 :          0 : udpv6_offload_fail:
    1151                 :          0 :         udplitev6_exit();
    1152                 :          0 : udplitev6_fail:
    1153                 :          0 :         udpv6_exit();
    1154                 :          0 : udpv6_fail:
    1155                 :          0 :         ipv6_frag_exit();
    1156                 :          0 : ipv6_frag_fail:
    1157                 :          0 :         ipv6_exthdrs_exit();
    1158                 :          0 : ipv6_exthdrs_fail:
    1159                 :          0 :         addrconf_cleanup();
    1160                 :          0 : addrconf_fail:
    1161                 :          0 :         ipv6_anycast_cleanup();
    1162                 :          0 : ipv6_anycast_fail:
    1163                 :          0 :         ip6_flowlabel_cleanup();
    1164                 :          0 : ip6_flowlabel_fail:
    1165                 :          0 :         ndisc_late_cleanup();
    1166                 :          0 : ndisc_late_fail:
    1167                 :          0 :         ip6_route_cleanup();
    1168                 :          0 : ip6_route_fail:
    1169                 :            : #ifdef CONFIG_PROC_FS
    1170                 :          0 :         if6_proc_exit();
    1171                 :          0 : proc_if6_fail:
    1172                 :          0 :         ipv6_misc_proc_exit();
    1173                 :          0 : proc_misc6_fail:
    1174                 :          0 :         udplite6_proc_exit();
    1175                 :          0 : proc_udplite6_fail:
    1176                 :          0 :         raw6_proc_exit();
    1177                 :          0 : proc_raw6_fail:
    1178                 :            : #endif
    1179                 :          0 :         ipv6_netfilter_fini();
    1180                 :          0 : netfilter_fail:
    1181                 :          0 :         igmp6_cleanup();
    1182                 :          0 : igmp_fail:
    1183                 :          0 :         ndisc_cleanup();
    1184                 :          0 : ndisc_fail:
    1185                 :          0 :         icmpv6_cleanup();
    1186                 :          0 : icmp_fail:
    1187                 :          0 :         ip6_mr_cleanup();
    1188                 :            : ipmr_fail:
    1189                 :          0 :         unregister_pernet_subsys(&inet6_net_ops);
    1190                 :          0 : register_pernet_fail:
    1191                 :          0 :         sock_unregister(PF_INET6);
    1192                 :          0 :         rtnl_unregister_all(PF_INET6);
    1193                 :          0 : out_sock_register_fail:
    1194                 :          0 :         rawv6_exit();
    1195                 :          0 : out_unregister_ping_proto:
    1196                 :          0 :         proto_unregister(&pingv6_prot);
    1197                 :          0 : out_unregister_raw_proto:
    1198                 :          0 :         proto_unregister(&rawv6_prot);
    1199                 :          0 : out_unregister_udplite_proto:
    1200                 :          0 :         proto_unregister(&udplitev6_prot);
    1201                 :          0 : out_unregister_udp_proto:
    1202                 :          0 :         proto_unregister(&udpv6_prot);
    1203                 :          0 : out_unregister_tcp_proto:
    1204                 :          0 :         proto_unregister(&tcpv6_prot);
    1205                 :          0 :         goto out;
    1206                 :            : }
    1207                 :            : module_init(inet6_init);
    1208                 :            : 
    1209                 :            : MODULE_ALIAS_NETPROTO(PF_INET6);

Generated by: LCOV version 1.14