LCOV - code coverage report
Current view: top level - fs/nfs - inode.c (source / functions) Hit Total Coverage
Test: Real Lines: 36 843 4.3 %
Date: 2020-10-17 15:46:43 Functions: 0 73 0.0 %
Legend: Neither, QEMU, Real, Both Branches: 0 0 -

           Branch data     Line data    Source code
       1                 :            : // SPDX-License-Identifier: GPL-2.0-only
       2                 :            : /*
       3                 :            :  *  linux/fs/nfs/inode.c
       4                 :            :  *
       5                 :            :  *  Copyright (C) 1992  Rick Sladkey
       6                 :            :  *
       7                 :            :  *  nfs inode and superblock handling functions
       8                 :            :  *
       9                 :            :  *  Modularised by Alan Cox <alan@lxorguk.ukuu.org.uk>, while hacking some
      10                 :            :  *  experimental NFS changes. Modularisation taken straight from SYS5 fs.
      11                 :            :  *
      12                 :            :  *  Change to nfs_read_super() to permit NFS mounts to multi-homed hosts.
      13                 :            :  *  J.S.Peatfield@damtp.cam.ac.uk
      14                 :            :  *
      15                 :            :  */
      16                 :            : 
      17                 :            : #include <linux/module.h>
      18                 :            : #include <linux/init.h>
      19                 :            : #include <linux/sched/signal.h>
      20                 :            : #include <linux/time.h>
      21                 :            : #include <linux/kernel.h>
      22                 :            : #include <linux/mm.h>
      23                 :            : #include <linux/string.h>
      24                 :            : #include <linux/stat.h>
      25                 :            : #include <linux/errno.h>
      26                 :            : #include <linux/unistd.h>
      27                 :            : #include <linux/sunrpc/clnt.h>
      28                 :            : #include <linux/sunrpc/stats.h>
      29                 :            : #include <linux/sunrpc/metrics.h>
      30                 :            : #include <linux/nfs_fs.h>
      31                 :            : #include <linux/nfs_mount.h>
      32                 :            : #include <linux/nfs4_mount.h>
      33                 :            : #include <linux/lockd/bind.h>
      34                 :            : #include <linux/seq_file.h>
      35                 :            : #include <linux/mount.h>
      36                 :            : #include <linux/vfs.h>
      37                 :            : #include <linux/inet.h>
      38                 :            : #include <linux/nfs_xdr.h>
      39                 :            : #include <linux/slab.h>
      40                 :            : #include <linux/compat.h>
      41                 :            : #include <linux/freezer.h>
      42                 :            : #include <linux/uaccess.h>
      43                 :            : #include <linux/iversion.h>
      44                 :            : 
      45                 :            : #include "nfs4_fs.h"
      46                 :            : #include "callback.h"
      47                 :            : #include "delegation.h"
      48                 :            : #include "iostat.h"
      49                 :            : #include "internal.h"
      50                 :            : #include "fscache.h"
      51                 :            : #include "pnfs.h"
      52                 :            : #include "nfs.h"
      53                 :            : #include "netns.h"
      54                 :            : #include "sysfs.h"
      55                 :            : 
      56                 :            : #include "nfstrace.h"
      57                 :            : 
      58                 :            : #define NFSDBG_FACILITY         NFSDBG_VFS
      59                 :            : 
      60                 :            : #define NFS_64_BIT_INODE_NUMBERS_ENABLED        1
      61                 :            : 
      62                 :            : /* Default is to see 64-bit inode numbers */
      63                 :            : static bool enable_ino64 = NFS_64_BIT_INODE_NUMBERS_ENABLED;
      64                 :            : 
      65                 :            : static void nfs_invalidate_inode(struct inode *);
      66                 :            : static int nfs_update_inode(struct inode *, struct nfs_fattr *);
      67                 :            : 
      68                 :            : static struct kmem_cache * nfs_inode_cachep;
      69                 :            : 
      70                 :            : static inline unsigned long
      71                 :            : nfs_fattr_to_ino_t(struct nfs_fattr *fattr)
      72                 :            : {
      73                 :          0 :         return nfs_fileid_to_ino_t(fattr->fileid);
      74                 :            : }
      75                 :            : 
      76                 :          0 : static int nfs_wait_killable(int mode)
      77                 :            : {
      78                 :          0 :         freezable_schedule_unsafe();
      79                 :          0 :         if (signal_pending_state(mode, current))
      80                 :            :                 return -ERESTARTSYS;
      81                 :          0 :         return 0;
      82                 :            : }
      83                 :            : 
      84                 :          0 : int nfs_wait_bit_killable(struct wait_bit_key *key, int mode)
      85                 :            : {
      86                 :          0 :         return nfs_wait_killable(mode);
      87                 :            : }
      88                 :            : EXPORT_SYMBOL_GPL(nfs_wait_bit_killable);
      89                 :            : 
      90                 :            : /**
      91                 :            :  * nfs_compat_user_ino64 - returns the user-visible inode number
      92                 :            :  * @fileid: 64-bit fileid
      93                 :            :  *
      94                 :            :  * This function returns a 32-bit inode number if the boot parameter
      95                 :            :  * nfs.enable_ino64 is zero.
      96                 :            :  */
      97                 :          0 : u64 nfs_compat_user_ino64(u64 fileid)
      98                 :            : {
      99                 :            : #ifdef CONFIG_COMPAT
     100                 :            :         compat_ulong_t ino;
     101                 :            : #else   
     102                 :            :         unsigned long ino;
     103                 :            : #endif
     104                 :            : 
     105                 :          0 :         if (enable_ino64)
     106                 :            :                 return fileid;
     107                 :          0 :         ino = fileid;
     108                 :            :         if (sizeof(ino) < sizeof(fileid))
     109                 :          0 :                 ino ^= fileid >> (sizeof(fileid)-sizeof(ino)) * 8;
     110                 :          0 :         return ino;
     111                 :            : }
     112                 :            : 
     113                 :          0 : int nfs_drop_inode(struct inode *inode)
     114                 :            : {
     115                 :          0 :         return NFS_STALE(inode) || generic_drop_inode(inode);
     116                 :            : }
     117                 :            : EXPORT_SYMBOL_GPL(nfs_drop_inode);
     118                 :            : 
     119                 :          0 : void nfs_clear_inode(struct inode *inode)
     120                 :            : {
     121                 :            :         /*
     122                 :            :          * The following should never happen...
     123                 :            :          */
     124                 :          0 :         WARN_ON_ONCE(nfs_have_writebacks(inode));
     125                 :          0 :         WARN_ON_ONCE(!list_empty(&NFS_I(inode)->open_files));
     126                 :          0 :         nfs_zap_acl_cache(inode);
     127                 :          0 :         nfs_access_zap_cache(inode);
     128                 :          0 :         nfs_fscache_clear_inode(inode);
     129                 :          0 : }
     130                 :            : EXPORT_SYMBOL_GPL(nfs_clear_inode);
     131                 :            : 
     132                 :          0 : void nfs_evict_inode(struct inode *inode)
     133                 :            : {
     134                 :          0 :         truncate_inode_pages_final(&inode->i_data);
     135                 :          0 :         clear_inode(inode);
     136                 :          0 :         nfs_clear_inode(inode);
     137                 :          0 : }
     138                 :            : 
     139                 :          0 : int nfs_sync_inode(struct inode *inode)
     140                 :            : {
     141                 :          0 :         inode_dio_wait(inode);
     142                 :          0 :         return nfs_wb_all(inode);
     143                 :            : }
     144                 :            : EXPORT_SYMBOL_GPL(nfs_sync_inode);
     145                 :            : 
     146                 :            : /**
     147                 :            :  * nfs_sync_mapping - helper to flush all mmapped dirty data to disk
     148                 :            :  * @mapping: pointer to struct address_space
     149                 :            :  */
     150                 :          0 : int nfs_sync_mapping(struct address_space *mapping)
     151                 :            : {
     152                 :            :         int ret = 0;
     153                 :            : 
     154                 :          0 :         if (mapping->nrpages != 0) {
     155                 :          0 :                 unmap_mapping_range(mapping, 0, 0, 0);
     156                 :          0 :                 ret = nfs_wb_all(mapping->host);
     157                 :            :         }
     158                 :          0 :         return ret;
     159                 :            : }
     160                 :            : 
     161                 :            : static int nfs_attribute_timeout(struct inode *inode)
     162                 :            : {
     163                 :            :         struct nfs_inode *nfsi = NFS_I(inode);
     164                 :            : 
     165                 :          0 :         return !time_in_range_open(jiffies, nfsi->read_cache_jiffies, nfsi->read_cache_jiffies + nfsi->attrtimeo);
     166                 :            : }
     167                 :            : 
     168                 :            : static bool nfs_check_cache_invalid_delegated(struct inode *inode, unsigned long flags)
     169                 :            : {
     170                 :            :         unsigned long cache_validity = READ_ONCE(NFS_I(inode)->cache_validity);
     171                 :            : 
     172                 :            :         /* Special case for the pagecache or access cache */
     173                 :          0 :         if (flags == NFS_INO_REVAL_PAGECACHE &&
     174                 :          0 :             !(cache_validity & NFS_INO_REVAL_FORCED))
     175                 :            :                 return false;
     176                 :          0 :         return (cache_validity & flags) != 0;
     177                 :            : }
     178                 :            : 
     179                 :          0 : static bool nfs_check_cache_invalid_not_delegated(struct inode *inode, unsigned long flags)
     180                 :            : {
     181                 :            :         unsigned long cache_validity = READ_ONCE(NFS_I(inode)->cache_validity);
     182                 :            : 
     183                 :          0 :         if ((cache_validity & flags) != 0)
     184                 :            :                 return true;
     185                 :          0 :         if (nfs_attribute_timeout(inode))
     186                 :            :                 return true;
     187                 :          0 :         return false;
     188                 :            : }
     189                 :            : 
     190                 :          0 : bool nfs_check_cache_invalid(struct inode *inode, unsigned long flags)
     191                 :            : {
     192                 :          0 :         if (NFS_PROTO(inode)->have_delegation(inode, FMODE_READ))
     193                 :          0 :                 return nfs_check_cache_invalid_delegated(inode, flags);
     194                 :            : 
     195                 :          0 :         return nfs_check_cache_invalid_not_delegated(inode, flags);
     196                 :            : }
     197                 :            : 
     198                 :          0 : static void nfs_set_cache_invalid(struct inode *inode, unsigned long flags)
     199                 :            : {
     200                 :            :         struct nfs_inode *nfsi = NFS_I(inode);
     201                 :          0 :         bool have_delegation = NFS_PROTO(inode)->have_delegation(inode, FMODE_READ);
     202                 :            : 
     203                 :          0 :         if (have_delegation) {
     204                 :          0 :                 if (!(flags & NFS_INO_REVAL_FORCED))
     205                 :          0 :                         flags &= ~NFS_INO_INVALID_OTHER;
     206                 :          0 :                 flags &= ~(NFS_INO_INVALID_CHANGE
     207                 :            :                                 | NFS_INO_INVALID_SIZE
     208                 :            :                                 | NFS_INO_REVAL_PAGECACHE);
     209                 :            :         }
     210                 :            : 
     211                 :          0 :         if (inode->i_mapping->nrpages == 0)
     212                 :          0 :                 flags &= ~(NFS_INO_INVALID_DATA|NFS_INO_DATA_INVAL_DEFER);
     213                 :          0 :         nfsi->cache_validity |= flags;
     214                 :          0 :         if (flags & NFS_INO_INVALID_DATA)
     215                 :            :                 nfs_fscache_invalidate(inode);
     216                 :          0 : }
     217                 :            : 
     218                 :            : /*
     219                 :            :  * Invalidate the local caches
     220                 :            :  */
     221                 :          0 : static void nfs_zap_caches_locked(struct inode *inode)
     222                 :            : {
     223                 :            :         struct nfs_inode *nfsi = NFS_I(inode);
     224                 :          0 :         int mode = inode->i_mode;
     225                 :            : 
     226                 :          0 :         nfs_inc_stats(inode, NFSIOS_ATTRINVALIDATE);
     227                 :            : 
     228                 :          0 :         nfsi->attrtimeo = NFS_MINATTRTIMEO(inode);
     229                 :          0 :         nfsi->attrtimeo_timestamp = jiffies;
     230                 :            : 
     231                 :          0 :         memset(NFS_I(inode)->cookieverf, 0, sizeof(NFS_I(inode)->cookieverf));
     232                 :          0 :         if (S_ISREG(mode) || S_ISDIR(mode) || S_ISLNK(mode)) {
     233                 :          0 :                 nfs_set_cache_invalid(inode, NFS_INO_INVALID_ATTR
     234                 :            :                                         | NFS_INO_INVALID_DATA
     235                 :            :                                         | NFS_INO_INVALID_ACCESS
     236                 :            :                                         | NFS_INO_INVALID_ACL
     237                 :            :                                         | NFS_INO_REVAL_PAGECACHE);
     238                 :            :         } else
     239                 :          0 :                 nfs_set_cache_invalid(inode, NFS_INO_INVALID_ATTR
     240                 :            :                                         | NFS_INO_INVALID_ACCESS
     241                 :            :                                         | NFS_INO_INVALID_ACL
     242                 :            :                                         | NFS_INO_REVAL_PAGECACHE);
     243                 :            :         nfs_zap_label_cache_locked(nfsi);
     244                 :          0 : }
     245                 :            : 
     246                 :          0 : void nfs_zap_caches(struct inode *inode)
     247                 :            : {
     248                 :            :         spin_lock(&inode->i_lock);
     249                 :          0 :         nfs_zap_caches_locked(inode);
     250                 :            :         spin_unlock(&inode->i_lock);
     251                 :          0 : }
     252                 :            : 
     253                 :          0 : void nfs_zap_mapping(struct inode *inode, struct address_space *mapping)
     254                 :            : {
     255                 :          0 :         if (mapping->nrpages != 0) {
     256                 :            :                 spin_lock(&inode->i_lock);
     257                 :          0 :                 nfs_set_cache_invalid(inode, NFS_INO_INVALID_DATA);
     258                 :            :                 spin_unlock(&inode->i_lock);
     259                 :            :         }
     260                 :          0 : }
     261                 :            : 
     262                 :          0 : void nfs_zap_acl_cache(struct inode *inode)
     263                 :            : {
     264                 :            :         void (*clear_acl_cache)(struct inode *);
     265                 :            : 
     266                 :          0 :         clear_acl_cache = NFS_PROTO(inode)->clear_acl_cache;
     267                 :          0 :         if (clear_acl_cache != NULL)
     268                 :          0 :                 clear_acl_cache(inode);
     269                 :            :         spin_lock(&inode->i_lock);
     270                 :          0 :         NFS_I(inode)->cache_validity &= ~NFS_INO_INVALID_ACL;
     271                 :            :         spin_unlock(&inode->i_lock);
     272                 :          0 : }
     273                 :            : EXPORT_SYMBOL_GPL(nfs_zap_acl_cache);
     274                 :            : 
     275                 :          0 : void nfs_invalidate_atime(struct inode *inode)
     276                 :            : {
     277                 :            :         spin_lock(&inode->i_lock);
     278                 :          0 :         nfs_set_cache_invalid(inode, NFS_INO_INVALID_ATIME);
     279                 :            :         spin_unlock(&inode->i_lock);
     280                 :          0 : }
     281                 :            : EXPORT_SYMBOL_GPL(nfs_invalidate_atime);
     282                 :            : 
     283                 :            : /*
     284                 :            :  * Invalidate, but do not unhash, the inode.
     285                 :            :  * NB: must be called with inode->i_lock held!
     286                 :            :  */
     287                 :            : static void nfs_invalidate_inode(struct inode *inode)
     288                 :            : {
     289                 :          0 :         set_bit(NFS_INO_STALE, &NFS_I(inode)->flags);
     290                 :          0 :         nfs_zap_caches_locked(inode);
     291                 :            : }
     292                 :            : 
     293                 :            : struct nfs_find_desc {
     294                 :            :         struct nfs_fh           *fh;
     295                 :            :         struct nfs_fattr        *fattr;
     296                 :            : };
     297                 :            : 
     298                 :            : /*
     299                 :            :  * In NFSv3 we can have 64bit inode numbers. In order to support
     300                 :            :  * this, and re-exported directories (also seen in NFSv2)
     301                 :            :  * we are forced to allow 2 different inodes to have the same
     302                 :            :  * i_ino.
     303                 :            :  */
     304                 :            : static int
     305                 :          0 : nfs_find_actor(struct inode *inode, void *opaque)
     306                 :            : {
     307                 :            :         struct nfs_find_desc    *desc = (struct nfs_find_desc *)opaque;
     308                 :          0 :         struct nfs_fh           *fh = desc->fh;
     309                 :          0 :         struct nfs_fattr        *fattr = desc->fattr;
     310                 :            : 
     311                 :          0 :         if (NFS_FILEID(inode) != fattr->fileid)
     312                 :            :                 return 0;
     313                 :          0 :         if ((S_IFMT & inode->i_mode) != (S_IFMT & fattr->mode))
     314                 :            :                 return 0;
     315                 :          0 :         if (nfs_compare_fh(NFS_FH(inode), fh))
     316                 :            :                 return 0;
     317                 :          0 :         if (is_bad_inode(inode) || NFS_STALE(inode))
     318                 :            :                 return 0;
     319                 :            :         return 1;
     320                 :            : }
     321                 :            : 
     322                 :            : static int
     323                 :          0 : nfs_init_locked(struct inode *inode, void *opaque)
     324                 :            : {
     325                 :            :         struct nfs_find_desc    *desc = (struct nfs_find_desc *)opaque;
     326                 :          0 :         struct nfs_fattr        *fattr = desc->fattr;
     327                 :            : 
     328                 :          0 :         set_nfs_fileid(inode, fattr->fileid);
     329                 :          0 :         inode->i_mode = fattr->mode;
     330                 :          0 :         nfs_copy_fh(NFS_FH(inode), desc->fh);
     331                 :          0 :         return 0;
     332                 :            : }
     333                 :            : 
     334                 :            : #ifdef CONFIG_NFS_V4_SECURITY_LABEL
     335                 :          0 : static void nfs_clear_label_invalid(struct inode *inode)
     336                 :            : {
     337                 :            :         spin_lock(&inode->i_lock);
     338                 :          0 :         NFS_I(inode)->cache_validity &= ~NFS_INO_INVALID_LABEL;
     339                 :            :         spin_unlock(&inode->i_lock);
     340                 :          0 : }
     341                 :            : 
     342                 :          0 : void nfs_setsecurity(struct inode *inode, struct nfs_fattr *fattr,
     343                 :            :                                         struct nfs4_label *label)
     344                 :            : {
     345                 :            :         int error;
     346                 :            : 
     347                 :          0 :         if (label == NULL)
     348                 :          0 :                 return;
     349                 :            : 
     350                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_V4_SECURITY_LABEL) && inode->i_security) {
     351                 :          0 :                 error = security_inode_notifysecctx(inode, label->label,
     352                 :            :                                 label->len);
     353                 :          0 :                 if (error)
     354                 :          0 :                         printk(KERN_ERR "%s() %s %d "
     355                 :            :                                         "security_inode_notifysecctx() %d\n",
     356                 :            :                                         __func__,
     357                 :            :                                         (char *)label->label,
     358                 :            :                                         label->len, error);
     359                 :          0 :                 nfs_clear_label_invalid(inode);
     360                 :            :         }
     361                 :            : }
     362                 :            : 
     363                 :          0 : struct nfs4_label *nfs4_label_alloc(struct nfs_server *server, gfp_t flags)
     364                 :            : {
     365                 :            :         struct nfs4_label *label = NULL;
     366                 :          0 :         int minor_version = server->nfs_client->cl_minorversion;
     367                 :            : 
     368                 :          0 :         if (minor_version < 2)
     369                 :            :                 return label;
     370                 :            : 
     371                 :          0 :         if (!(server->caps & NFS_CAP_SECURITY_LABEL))
     372                 :            :                 return label;
     373                 :            : 
     374                 :          0 :         label = kzalloc(sizeof(struct nfs4_label), flags);
     375                 :          0 :         if (label == NULL)
     376                 :            :                 return ERR_PTR(-ENOMEM);
     377                 :            : 
     378                 :          0 :         label->label = kzalloc(NFS4_MAXLABELLEN, flags);
     379                 :          0 :         if (label->label == NULL) {
     380                 :          0 :                 kfree(label);
     381                 :          0 :                 return ERR_PTR(-ENOMEM);
     382                 :            :         }
     383                 :          0 :         label->len = NFS4_MAXLABELLEN;
     384                 :            : 
     385                 :          0 :         return label;
     386                 :            : }
     387                 :            : EXPORT_SYMBOL_GPL(nfs4_label_alloc);
     388                 :            : #else
     389                 :            : void nfs_setsecurity(struct inode *inode, struct nfs_fattr *fattr,
     390                 :            :                                         struct nfs4_label *label)
     391                 :            : {
     392                 :            : }
     393                 :            : #endif
     394                 :            : EXPORT_SYMBOL_GPL(nfs_setsecurity);
     395                 :            : 
     396                 :            : /* Search for inode identified by fh, fileid and i_mode in inode cache. */
     397                 :            : struct inode *
     398                 :          0 : nfs_ilookup(struct super_block *sb, struct nfs_fattr *fattr, struct nfs_fh *fh)
     399                 :            : {
     400                 :          0 :         struct nfs_find_desc desc = {
     401                 :            :                 .fh     = fh,
     402                 :            :                 .fattr  = fattr,
     403                 :            :         };
     404                 :            :         struct inode *inode;
     405                 :            :         unsigned long hash;
     406                 :            : 
     407                 :          0 :         if (!(fattr->valid & NFS_ATTR_FATTR_FILEID) ||
     408                 :            :             !(fattr->valid & NFS_ATTR_FATTR_TYPE))
     409                 :            :                 return NULL;
     410                 :            : 
     411                 :            :         hash = nfs_fattr_to_ino_t(fattr);
     412                 :          0 :         inode = ilookup5(sb, hash, nfs_find_actor, &desc);
     413                 :            : 
     414                 :            :         dprintk("%s: returning %p\n", __func__, inode);
     415                 :          0 :         return inode;
     416                 :            : }
     417                 :            : 
     418                 :            : /*
     419                 :            :  * This is our front-end to iget that looks up inodes by file handle
     420                 :            :  * instead of inode number.
     421                 :            :  */
     422                 :            : struct inode *
     423                 :          0 : nfs_fhget(struct super_block *sb, struct nfs_fh *fh, struct nfs_fattr *fattr, struct nfs4_label *label)
     424                 :            : {
     425                 :          0 :         struct nfs_find_desc desc = {
     426                 :            :                 .fh     = fh,
     427                 :            :                 .fattr  = fattr
     428                 :            :         };
     429                 :            :         struct inode *inode = ERR_PTR(-ENOENT);
     430                 :            :         unsigned long hash;
     431                 :            : 
     432                 :          0 :         nfs_attr_check_mountpoint(sb, fattr);
     433                 :            : 
     434                 :          0 :         if (nfs_attr_use_mounted_on_fileid(fattr))
     435                 :          0 :                 fattr->fileid = fattr->mounted_on_fileid;
     436                 :          0 :         else if ((fattr->valid & NFS_ATTR_FATTR_FILEID) == 0)
     437                 :            :                 goto out_no_inode;
     438                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_TYPE) == 0)
     439                 :            :                 goto out_no_inode;
     440                 :            : 
     441                 :            :         hash = nfs_fattr_to_ino_t(fattr);
     442                 :            : 
     443                 :          0 :         inode = iget5_locked(sb, hash, nfs_find_actor, nfs_init_locked, &desc);
     444                 :          0 :         if (inode == NULL) {
     445                 :            :                 inode = ERR_PTR(-ENOMEM);
     446                 :            :                 goto out_no_inode;
     447                 :            :         }
     448                 :            : 
     449                 :          0 :         if (inode->i_state & I_NEW) {
     450                 :            :                 struct nfs_inode *nfsi = NFS_I(inode);
     451                 :          0 :                 unsigned long now = jiffies;
     452                 :            : 
     453                 :            :                 /* We set i_ino for the few things that still rely on it,
     454                 :            :                  * such as stat(2) */
     455                 :          0 :                 inode->i_ino = hash;
     456                 :            : 
     457                 :            :                 /* We can't support update_atime(), since the server will reset it */
     458                 :          0 :                 inode->i_flags |= S_NOATIME|S_NOCMTIME;
     459                 :          0 :                 inode->i_mode = fattr->mode;
     460                 :          0 :                 nfsi->cache_validity = 0;
     461                 :          0 :                 if ((fattr->valid & NFS_ATTR_FATTR_MODE) == 0
     462                 :          0 :                                 && nfs_server_capable(inode, NFS_CAP_MODE))
     463                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_OTHER);
     464                 :            :                 /* Why so? Because we want revalidate for devices/FIFOs, and
     465                 :            :                  * that's precisely what we have in nfs_file_inode_operations.
     466                 :            :                  */
     467                 :          0 :                 inode->i_op = NFS_SB(sb)->nfs_client->rpc_ops->file_inode_ops;
     468                 :          0 :                 if (S_ISREG(inode->i_mode)) {
     469                 :          0 :                         inode->i_fop = NFS_SB(sb)->nfs_client->rpc_ops->file_ops;
     470                 :          0 :                         inode->i_data.a_ops = &nfs_file_aops;
     471                 :          0 :                 } else if (S_ISDIR(inode->i_mode)) {
     472                 :          0 :                         inode->i_op = NFS_SB(sb)->nfs_client->rpc_ops->dir_inode_ops;
     473                 :          0 :                         inode->i_fop = &nfs_dir_operations;
     474                 :          0 :                         inode->i_data.a_ops = &nfs_dir_aops;
     475                 :            :                         /* Deal with crossing mountpoints */
     476                 :          0 :                         if (fattr->valid & NFS_ATTR_FATTR_MOUNTPOINT ||
     477                 :            :                                         fattr->valid & NFS_ATTR_FATTR_V4_REFERRAL) {
     478                 :          0 :                                 if (fattr->valid & NFS_ATTR_FATTR_V4_REFERRAL)
     479                 :          0 :                                         inode->i_op = &nfs_referral_inode_operations;
     480                 :            :                                 else
     481                 :          0 :                                         inode->i_op = &nfs_mountpoint_inode_operations;
     482                 :          0 :                                 inode->i_fop = NULL;
     483                 :          0 :                                 inode->i_flags |= S_AUTOMOUNT;
     484                 :            :                         }
     485                 :          0 :                 } else if (S_ISLNK(inode->i_mode)) {
     486                 :          0 :                         inode->i_op = &nfs_symlink_inode_operations;
     487                 :          0 :                         inode_nohighmem(inode);
     488                 :            :                 } else
     489                 :          0 :                         init_special_inode(inode, inode->i_mode, fattr->rdev);
     490                 :            : 
     491                 :          0 :                 memset(&inode->i_atime, 0, sizeof(inode->i_atime));
     492                 :          0 :                 memset(&inode->i_mtime, 0, sizeof(inode->i_mtime));
     493                 :          0 :                 memset(&inode->i_ctime, 0, sizeof(inode->i_ctime));
     494                 :            :                 inode_set_iversion_raw(inode, 0);
     495                 :          0 :                 inode->i_size = 0;
     496                 :          0 :                 clear_nlink(inode);
     497                 :          0 :                 inode->i_uid = make_kuid(&init_user_ns, -2);
     498                 :          0 :                 inode->i_gid = make_kgid(&init_user_ns, -2);
     499                 :          0 :                 inode->i_blocks = 0;
     500                 :          0 :                 memset(nfsi->cookieverf, 0, sizeof(nfsi->cookieverf));
     501                 :          0 :                 nfsi->write_io = 0;
     502                 :          0 :                 nfsi->read_io = 0;
     503                 :            : 
     504                 :          0 :                 nfsi->read_cache_jiffies = fattr->time_start;
     505                 :          0 :                 nfsi->attr_gencount = fattr->gencount;
     506                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_ATIME)
     507                 :          0 :                         inode->i_atime = timespec_to_timespec64(fattr->atime);
     508                 :          0 :                 else if (nfs_server_capable(inode, NFS_CAP_ATIME))
     509                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_ATIME);
     510                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_MTIME)
     511                 :          0 :                         inode->i_mtime = timespec_to_timespec64(fattr->mtime);
     512                 :          0 :                 else if (nfs_server_capable(inode, NFS_CAP_MTIME))
     513                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_MTIME);
     514                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_CTIME)
     515                 :          0 :                         inode->i_ctime = timespec_to_timespec64(fattr->ctime);
     516                 :          0 :                 else if (nfs_server_capable(inode, NFS_CAP_CTIME))
     517                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_CTIME);
     518                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_CHANGE)
     519                 :          0 :                         inode_set_iversion_raw(inode, fattr->change_attr);
     520                 :            :                 else
     521                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_CHANGE);
     522                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_SIZE)
     523                 :          0 :                         inode->i_size = nfs_size_to_loff_t(fattr->size);
     524                 :            :                 else
     525                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_SIZE);
     526                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_NLINK)
     527                 :          0 :                         set_nlink(inode, fattr->nlink);
     528                 :          0 :                 else if (nfs_server_capable(inode, NFS_CAP_NLINK))
     529                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_OTHER);
     530                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_OWNER)
     531                 :          0 :                         inode->i_uid = fattr->uid;
     532                 :          0 :                 else if (nfs_server_capable(inode, NFS_CAP_OWNER))
     533                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_OTHER);
     534                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_GROUP)
     535                 :          0 :                         inode->i_gid = fattr->gid;
     536                 :          0 :                 else if (nfs_server_capable(inode, NFS_CAP_OWNER_GROUP))
     537                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_OTHER);
     538                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_BLOCKS_USED)
     539                 :          0 :                         inode->i_blocks = fattr->du.nfs2.blocks;
     540                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_SPACE_USED) {
     541                 :            :                         /*
     542                 :            :                          * report the blocks in 512byte units
     543                 :            :                          */
     544                 :          0 :                         inode->i_blocks = nfs_calc_block_size(fattr->du.nfs3.used);
     545                 :            :                 }
     546                 :            : 
     547                 :          0 :                 if (nfsi->cache_validity != 0)
     548                 :          0 :                         nfsi->cache_validity |= NFS_INO_REVAL_FORCED;
     549                 :            : 
     550                 :          0 :                 nfs_setsecurity(inode, fattr, label);
     551                 :            : 
     552                 :          0 :                 nfsi->attrtimeo = NFS_MINATTRTIMEO(inode);
     553                 :          0 :                 nfsi->attrtimeo_timestamp = now;
     554                 :          0 :                 nfsi->access_cache = RB_ROOT;
     555                 :            : 
     556                 :          0 :                 nfs_fscache_init_inode(inode);
     557                 :            : 
     558                 :          0 :                 unlock_new_inode(inode);
     559                 :            :         } else {
     560                 :          0 :                 int err = nfs_refresh_inode(inode, fattr);
     561                 :          0 :                 if (err < 0) {
     562                 :          0 :                         iput(inode);
     563                 :            :                         inode = ERR_PTR(err);
     564                 :          0 :                         goto out_no_inode;
     565                 :            :                 }
     566                 :            :         }
     567                 :            :         dprintk("NFS: nfs_fhget(%s/%Lu fh_crc=0x%08x ct=%d)\n",
     568                 :            :                 inode->i_sb->s_id,
     569                 :            :                 (unsigned long long)NFS_FILEID(inode),
     570                 :            :                 nfs_display_fhandle_hash(fh),
     571                 :            :                 atomic_read(&inode->i_count));
     572                 :            : 
     573                 :            : out:
     574                 :          0 :         return inode;
     575                 :            : 
     576                 :            : out_no_inode:
     577                 :            :         dprintk("nfs_fhget: iget failed with error %ld\n", PTR_ERR(inode));
     578                 :            :         goto out;
     579                 :            : }
     580                 :            : EXPORT_SYMBOL_GPL(nfs_fhget);
     581                 :            : 
     582                 :            : #define NFS_VALID_ATTRS (ATTR_MODE|ATTR_UID|ATTR_GID|ATTR_SIZE|ATTR_ATIME|ATTR_ATIME_SET|ATTR_MTIME|ATTR_MTIME_SET|ATTR_FILE|ATTR_OPEN)
     583                 :            : 
     584                 :            : int
     585                 :          0 : nfs_setattr(struct dentry *dentry, struct iattr *attr)
     586                 :            : {
     587                 :            :         struct inode *inode = d_inode(dentry);
     588                 :            :         struct nfs_fattr *fattr;
     589                 :            :         int error = 0;
     590                 :            : 
     591                 :          0 :         nfs_inc_stats(inode, NFSIOS_VFSSETATTR);
     592                 :            : 
     593                 :            :         /* skip mode change if it's just for clearing setuid/setgid */
     594                 :          0 :         if (attr->ia_valid & (ATTR_KILL_SUID | ATTR_KILL_SGID))
     595                 :          0 :                 attr->ia_valid &= ~ATTR_MODE;
     596                 :            : 
     597                 :          0 :         if (attr->ia_valid & ATTR_SIZE) {
     598                 :          0 :                 BUG_ON(!S_ISREG(inode->i_mode));
     599                 :            : 
     600                 :          0 :                 error = inode_newsize_ok(inode, attr->ia_size);
     601                 :          0 :                 if (error)
     602                 :            :                         return error;
     603                 :            : 
     604                 :          0 :                 if (attr->ia_size == i_size_read(inode))
     605                 :          0 :                         attr->ia_valid &= ~ATTR_SIZE;
     606                 :            :         }
     607                 :            : 
     608                 :            :         /* Optimization: if the end result is no change, don't RPC */
     609                 :          0 :         attr->ia_valid &= NFS_VALID_ATTRS;
     610                 :          0 :         if ((attr->ia_valid & ~(ATTR_FILE|ATTR_OPEN)) == 0)
     611                 :            :                 return 0;
     612                 :            : 
     613                 :          0 :         trace_nfs_setattr_enter(inode);
     614                 :            : 
     615                 :            :         /* Write all dirty data */
     616                 :          0 :         if (S_ISREG(inode->i_mode))
     617                 :            :                 nfs_sync_inode(inode);
     618                 :            : 
     619                 :          0 :         fattr = nfs_alloc_fattr();
     620                 :          0 :         if (fattr == NULL) {
     621                 :            :                 error = -ENOMEM;
     622                 :            :                 goto out;
     623                 :            :         }
     624                 :            : 
     625                 :          0 :         error = NFS_PROTO(inode)->setattr(dentry, fattr, attr);
     626                 :          0 :         if (error == 0)
     627                 :          0 :                 error = nfs_refresh_inode(inode, fattr);
     628                 :            :         nfs_free_fattr(fattr);
     629                 :            : out:
     630                 :          0 :         trace_nfs_setattr_exit(inode, error);
     631                 :          0 :         return error;
     632                 :            : }
     633                 :            : EXPORT_SYMBOL_GPL(nfs_setattr);
     634                 :            : 
     635                 :            : /**
     636                 :            :  * nfs_vmtruncate - unmap mappings "freed" by truncate() syscall
     637                 :            :  * @inode: inode of the file used
     638                 :            :  * @offset: file offset to start truncating
     639                 :            :  *
     640                 :            :  * This is a copy of the common vmtruncate, but with the locking
     641                 :            :  * corrected to take into account the fact that NFS requires
     642                 :            :  * inode->i_size to be updated under the inode->i_lock.
     643                 :            :  * Note: must be called with inode->i_lock held!
     644                 :            :  */
     645                 :          0 : static int nfs_vmtruncate(struct inode * inode, loff_t offset)
     646                 :            : {
     647                 :            :         int err;
     648                 :            : 
     649                 :          0 :         err = inode_newsize_ok(inode, offset);
     650                 :          0 :         if (err)
     651                 :            :                 goto out;
     652                 :            : 
     653                 :            :         i_size_write(inode, offset);
     654                 :            :         /* Optimisation */
     655                 :          0 :         if (offset == 0)
     656                 :          0 :                 NFS_I(inode)->cache_validity &= ~(NFS_INO_INVALID_DATA |
     657                 :            :                                 NFS_INO_DATA_INVAL_DEFER);
     658                 :          0 :         NFS_I(inode)->cache_validity &= ~NFS_INO_INVALID_SIZE;
     659                 :            : 
     660                 :            :         spin_unlock(&inode->i_lock);
     661                 :          0 :         truncate_pagecache(inode, offset);
     662                 :            :         spin_lock(&inode->i_lock);
     663                 :            : out:
     664                 :          0 :         return err;
     665                 :            : }
     666                 :            : 
     667                 :            : /**
     668                 :            :  * nfs_setattr_update_inode - Update inode metadata after a setattr call.
     669                 :            :  * @inode: pointer to struct inode
     670                 :            :  * @attr: pointer to struct iattr
     671                 :            :  * @fattr: pointer to struct nfs_fattr
     672                 :            :  *
     673                 :            :  * Note: we do this in the *proc.c in order to ensure that
     674                 :            :  *       it works for things like exclusive creates too.
     675                 :            :  */
     676                 :          0 : void nfs_setattr_update_inode(struct inode *inode, struct iattr *attr,
     677                 :            :                 struct nfs_fattr *fattr)
     678                 :            : {
     679                 :            :         /* Barrier: bump the attribute generation count. */
     680                 :            :         nfs_fattr_set_barrier(fattr);
     681                 :            : 
     682                 :            :         spin_lock(&inode->i_lock);
     683                 :          0 :         NFS_I(inode)->attr_gencount = fattr->gencount;
     684                 :          0 :         if ((attr->ia_valid & ATTR_SIZE) != 0) {
     685                 :          0 :                 nfs_set_cache_invalid(inode, NFS_INO_INVALID_MTIME);
     686                 :          0 :                 nfs_inc_stats(inode, NFSIOS_SETATTRTRUNC);
     687                 :          0 :                 nfs_vmtruncate(inode, attr->ia_size);
     688                 :            :         }
     689                 :          0 :         if ((attr->ia_valid & (ATTR_MODE|ATTR_UID|ATTR_GID)) != 0) {
     690                 :          0 :                 NFS_I(inode)->cache_validity &= ~NFS_INO_INVALID_CTIME;
     691                 :          0 :                 if ((attr->ia_valid & ATTR_MODE) != 0) {
     692                 :          0 :                         int mode = attr->ia_mode & S_IALLUGO;
     693                 :          0 :                         mode |= inode->i_mode & ~S_IALLUGO;
     694                 :          0 :                         inode->i_mode = mode;
     695                 :            :                 }
     696                 :          0 :                 if ((attr->ia_valid & ATTR_UID) != 0)
     697                 :          0 :                         inode->i_uid = attr->ia_uid;
     698                 :          0 :                 if ((attr->ia_valid & ATTR_GID) != 0)
     699                 :          0 :                         inode->i_gid = attr->ia_gid;
     700                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_CTIME)
     701                 :          0 :                         inode->i_ctime = timespec_to_timespec64(fattr->ctime);
     702                 :            :                 else
     703                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_CHANGE
     704                 :            :                                         | NFS_INO_INVALID_CTIME);
     705                 :          0 :                 nfs_set_cache_invalid(inode, NFS_INO_INVALID_ACCESS
     706                 :            :                                 | NFS_INO_INVALID_ACL);
     707                 :            :         }
     708                 :          0 :         if (attr->ia_valid & (ATTR_ATIME_SET|ATTR_ATIME)) {
     709                 :          0 :                 NFS_I(inode)->cache_validity &= ~(NFS_INO_INVALID_ATIME
     710                 :            :                                 | NFS_INO_INVALID_CTIME);
     711                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_ATIME)
     712                 :          0 :                         inode->i_atime = timespec_to_timespec64(fattr->atime);
     713                 :          0 :                 else if (attr->ia_valid & ATTR_ATIME_SET)
     714                 :          0 :                         inode->i_atime = attr->ia_atime;
     715                 :            :                 else
     716                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_ATIME);
     717                 :            : 
     718                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_CTIME)
     719                 :          0 :                         inode->i_ctime = timespec_to_timespec64(fattr->ctime);
     720                 :            :                 else
     721                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_CHANGE
     722                 :            :                                         | NFS_INO_INVALID_CTIME);
     723                 :            :         }
     724                 :          0 :         if (attr->ia_valid & (ATTR_MTIME_SET|ATTR_MTIME)) {
     725                 :          0 :                 NFS_I(inode)->cache_validity &= ~(NFS_INO_INVALID_MTIME
     726                 :            :                                 | NFS_INO_INVALID_CTIME);
     727                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_MTIME)
     728                 :          0 :                         inode->i_mtime = timespec_to_timespec64(fattr->mtime);
     729                 :          0 :                 else if (attr->ia_valid & ATTR_MTIME_SET)
     730                 :          0 :                         inode->i_mtime = attr->ia_mtime;
     731                 :            :                 else
     732                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_MTIME);
     733                 :            : 
     734                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_CTIME)
     735                 :          0 :                         inode->i_ctime = timespec_to_timespec64(fattr->ctime);
     736                 :            :                 else
     737                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_CHANGE
     738                 :            :                                         | NFS_INO_INVALID_CTIME);
     739                 :            :         }
     740                 :          0 :         if (fattr->valid)
     741                 :          0 :                 nfs_update_inode(inode, fattr);
     742                 :            :         spin_unlock(&inode->i_lock);
     743                 :          0 : }
     744                 :            : EXPORT_SYMBOL_GPL(nfs_setattr_update_inode);
     745                 :            : 
     746                 :          0 : static void nfs_readdirplus_parent_cache_miss(struct dentry *dentry)
     747                 :            : {
     748                 :            :         struct dentry *parent;
     749                 :            : 
     750                 :          0 :         if (!nfs_server_capable(d_inode(dentry), NFS_CAP_READDIRPLUS))
     751                 :          0 :                 return;
     752                 :          0 :         parent = dget_parent(dentry);
     753                 :          0 :         nfs_force_use_readdirplus(d_inode(parent));
     754                 :          0 :         dput(parent);
     755                 :            : }
     756                 :            : 
     757                 :          0 : static void nfs_readdirplus_parent_cache_hit(struct dentry *dentry)
     758                 :            : {
     759                 :            :         struct dentry *parent;
     760                 :            : 
     761                 :          0 :         if (!nfs_server_capable(d_inode(dentry), NFS_CAP_READDIRPLUS))
     762                 :          0 :                 return;
     763                 :          0 :         parent = dget_parent(dentry);
     764                 :          0 :         nfs_advise_use_readdirplus(d_inode(parent));
     765                 :          0 :         dput(parent);
     766                 :            : }
     767                 :            : 
     768                 :          0 : static bool nfs_need_revalidate_inode(struct inode *inode)
     769                 :            : {
     770                 :          0 :         if (NFS_I(inode)->cache_validity &
     771                 :            :                         (NFS_INO_INVALID_ATTR|NFS_INO_INVALID_LABEL))
     772                 :            :                 return true;
     773                 :          0 :         if (nfs_attribute_cache_expired(inode))
     774                 :            :                 return true;
     775                 :          0 :         return false;
     776                 :            : }
     777                 :            : 
     778                 :          0 : int nfs_getattr(const struct path *path, struct kstat *stat,
     779                 :            :                 u32 request_mask, unsigned int query_flags)
     780                 :            : {
     781                 :          0 :         struct inode *inode = d_inode(path->dentry);
     782                 :            :         struct nfs_server *server = NFS_SERVER(inode);
     783                 :            :         unsigned long cache_validity;
     784                 :            :         int err = 0;
     785                 :          0 :         bool force_sync = query_flags & AT_STATX_FORCE_SYNC;
     786                 :            :         bool do_update = false;
     787                 :            : 
     788                 :          0 :         trace_nfs_getattr_enter(inode);
     789                 :            : 
     790                 :          0 :         if ((query_flags & AT_STATX_DONT_SYNC) && !force_sync)
     791                 :            :                 goto out_no_update;
     792                 :            : 
     793                 :            :         /* Flush out writes to the server in order to update c/mtime.  */
     794                 :          0 :         if ((request_mask & (STATX_CTIME|STATX_MTIME)) &&
     795                 :          0 :                         S_ISREG(inode->i_mode)) {
     796                 :          0 :                 err = filemap_write_and_wait(inode->i_mapping);
     797                 :          0 :                 if (err)
     798                 :            :                         goto out;
     799                 :            :         }
     800                 :            : 
     801                 :            :         /*
     802                 :            :          * We may force a getattr if the user cares about atime.
     803                 :            :          *
     804                 :            :          * Note that we only have to check the vfsmount flags here:
     805                 :            :          *  - NFS always sets S_NOATIME by so checking it would give a
     806                 :            :          *    bogus result
     807                 :            :          *  - NFS never sets SB_NOATIME or SB_NODIRATIME so there is
     808                 :            :          *    no point in checking those.
     809                 :            :          */
     810                 :          0 :         if ((path->mnt->mnt_flags & MNT_NOATIME) ||
     811                 :          0 :             ((path->mnt->mnt_flags & MNT_NODIRATIME) && S_ISDIR(inode->i_mode)))
     812                 :          0 :                 request_mask &= ~STATX_ATIME;
     813                 :            : 
     814                 :            :         /* Is the user requesting attributes that might need revalidation? */
     815                 :          0 :         if (!(request_mask & (STATX_MODE|STATX_NLINK|STATX_ATIME|STATX_CTIME|
     816                 :            :                                         STATX_MTIME|STATX_UID|STATX_GID|
     817                 :            :                                         STATX_SIZE|STATX_BLOCKS)))
     818                 :            :                 goto out_no_revalidate;
     819                 :            : 
     820                 :            :         /* Check whether the cached attributes are stale */
     821                 :          0 :         do_update |= force_sync || nfs_attribute_cache_expired(inode);
     822                 :            :         cache_validity = READ_ONCE(NFS_I(inode)->cache_validity);
     823                 :          0 :         do_update |= cache_validity &
     824                 :            :                 (NFS_INO_INVALID_ATTR|NFS_INO_INVALID_LABEL);
     825                 :          0 :         if (request_mask & STATX_ATIME)
     826                 :          0 :                 do_update |= cache_validity & NFS_INO_INVALID_ATIME;
     827                 :          0 :         if (request_mask & (STATX_CTIME|STATX_MTIME))
     828                 :          0 :                 do_update |= cache_validity & NFS_INO_REVAL_PAGECACHE;
     829                 :          0 :         if (request_mask & STATX_BLOCKS)
     830                 :          0 :                 do_update |= cache_validity & NFS_INO_INVALID_BLOCKS;
     831                 :          0 :         if (do_update) {
     832                 :            :                 /* Update the attribute cache */
     833                 :          0 :                 if (!(server->flags & NFS_MOUNT_NOAC))
     834                 :          0 :                         nfs_readdirplus_parent_cache_miss(path->dentry);
     835                 :            :                 else
     836                 :          0 :                         nfs_readdirplus_parent_cache_hit(path->dentry);
     837                 :          0 :                 err = __nfs_revalidate_inode(server, inode);
     838                 :          0 :                 if (err)
     839                 :            :                         goto out;
     840                 :            :         } else
     841                 :          0 :                 nfs_readdirplus_parent_cache_hit(path->dentry);
     842                 :            : out_no_revalidate:
     843                 :            :         /* Only return attributes that were revalidated. */
     844                 :          0 :         stat->result_mask &= request_mask;
     845                 :            : out_no_update:
     846                 :          0 :         generic_fillattr(inode, stat);
     847                 :          0 :         stat->ino = nfs_compat_user_ino64(NFS_FILEID(inode));
     848                 :          0 :         if (S_ISDIR(inode->i_mode))
     849                 :          0 :                 stat->blksize = NFS_SERVER(inode)->dtsize;
     850                 :            : out:
     851                 :          0 :         trace_nfs_getattr_exit(inode, err);
     852                 :          0 :         return err;
     853                 :            : }
     854                 :            : EXPORT_SYMBOL_GPL(nfs_getattr);
     855                 :            : 
     856                 :            : static void nfs_init_lock_context(struct nfs_lock_context *l_ctx)
     857                 :            : {
     858                 :            :         refcount_set(&l_ctx->count, 1);
     859                 :          0 :         l_ctx->lockowner = current->files;
     860                 :          0 :         INIT_LIST_HEAD(&l_ctx->list);
     861                 :            :         atomic_set(&l_ctx->io_count, 0);
     862                 :            : }
     863                 :            : 
     864                 :          0 : static struct nfs_lock_context *__nfs_find_lock_context(struct nfs_open_context *ctx)
     865                 :            : {
     866                 :            :         struct nfs_lock_context *pos;
     867                 :            : 
     868                 :          0 :         list_for_each_entry_rcu(pos, &ctx->lock_context.list, list) {
     869                 :          0 :                 if (pos->lockowner != current->files)
     870                 :          0 :                         continue;
     871                 :          0 :                 if (refcount_inc_not_zero(&pos->count))
     872                 :          0 :                         return pos;
     873                 :            :         }
     874                 :            :         return NULL;
     875                 :            : }
     876                 :            : 
     877                 :          0 : struct nfs_lock_context *nfs_get_lock_context(struct nfs_open_context *ctx)
     878                 :            : {
     879                 :            :         struct nfs_lock_context *res, *new = NULL;
     880                 :          0 :         struct inode *inode = d_inode(ctx->dentry);
     881                 :            : 
     882                 :            :         rcu_read_lock();
     883                 :          0 :         res = __nfs_find_lock_context(ctx);
     884                 :            :         rcu_read_unlock();
     885                 :          0 :         if (res == NULL) {
     886                 :            :                 new = kmalloc(sizeof(*new), GFP_KERNEL);
     887                 :          0 :                 if (new == NULL)
     888                 :            :                         return ERR_PTR(-ENOMEM);
     889                 :            :                 nfs_init_lock_context(new);
     890                 :            :                 spin_lock(&inode->i_lock);
     891                 :          0 :                 res = __nfs_find_lock_context(ctx);
     892                 :          0 :                 if (res == NULL) {
     893                 :          0 :                         new->open_context = get_nfs_open_context(ctx);
     894                 :          0 :                         if (new->open_context) {
     895                 :          0 :                                 list_add_tail_rcu(&new->list,
     896                 :            :                                                 &ctx->lock_context.list);
     897                 :            :                                 res = new;
     898                 :            :                                 new = NULL;
     899                 :            :                         } else
     900                 :            :                                 res = ERR_PTR(-EBADF);
     901                 :            :                 }
     902                 :            :                 spin_unlock(&inode->i_lock);
     903                 :          0 :                 kfree(new);
     904                 :            :         }
     905                 :          0 :         return res;
     906                 :            : }
     907                 :            : EXPORT_SYMBOL_GPL(nfs_get_lock_context);
     908                 :            : 
     909                 :          0 : void nfs_put_lock_context(struct nfs_lock_context *l_ctx)
     910                 :            : {
     911                 :          0 :         struct nfs_open_context *ctx = l_ctx->open_context;
     912                 :          0 :         struct inode *inode = d_inode(ctx->dentry);
     913                 :            : 
     914                 :          0 :         if (!refcount_dec_and_lock(&l_ctx->count, &inode->i_lock))
     915                 :          0 :                 return;
     916                 :            :         list_del_rcu(&l_ctx->list);
     917                 :            :         spin_unlock(&inode->i_lock);
     918                 :            :         put_nfs_open_context(ctx);
     919                 :          0 :         kfree_rcu(l_ctx, rcu_head);
     920                 :            : }
     921                 :            : EXPORT_SYMBOL_GPL(nfs_put_lock_context);
     922                 :            : 
     923                 :            : /**
     924                 :            :  * nfs_close_context - Common close_context() routine NFSv2/v3
     925                 :            :  * @ctx: pointer to context
     926                 :            :  * @is_sync: is this a synchronous close
     927                 :            :  *
     928                 :            :  * Ensure that the attributes are up to date if we're mounted
     929                 :            :  * with close-to-open semantics and we have cached data that will
     930                 :            :  * need to be revalidated on open.
     931                 :            :  */
     932                 :          0 : void nfs_close_context(struct nfs_open_context *ctx, int is_sync)
     933                 :            : {
     934                 :            :         struct nfs_inode *nfsi;
     935                 :            :         struct inode *inode;
     936                 :            :         struct nfs_server *server;
     937                 :            : 
     938                 :          0 :         if (!(ctx->mode & FMODE_WRITE))
     939                 :            :                 return;
     940                 :          0 :         if (!is_sync)
     941                 :            :                 return;
     942                 :          0 :         inode = d_inode(ctx->dentry);
     943                 :          0 :         if (NFS_PROTO(inode)->have_delegation(inode, FMODE_READ))
     944                 :            :                 return;
     945                 :            :         nfsi = NFS_I(inode);
     946                 :          0 :         if (inode->i_mapping->nrpages == 0)
     947                 :            :                 return;
     948                 :          0 :         if (nfsi->cache_validity & NFS_INO_INVALID_DATA)
     949                 :            :                 return;
     950                 :          0 :         if (!list_empty(&nfsi->open_files))
     951                 :            :                 return;
     952                 :            :         server = NFS_SERVER(inode);
     953                 :          0 :         if (server->flags & NFS_MOUNT_NOCTO)
     954                 :            :                 return;
     955                 :          0 :         nfs_revalidate_inode(server, inode);
     956                 :            : }
     957                 :            : EXPORT_SYMBOL_GPL(nfs_close_context);
     958                 :            : 
     959                 :          0 : struct nfs_open_context *alloc_nfs_open_context(struct dentry *dentry,
     960                 :            :                                                 fmode_t f_mode,
     961                 :            :                                                 struct file *filp)
     962                 :            : {
     963                 :            :         struct nfs_open_context *ctx;
     964                 :            : 
     965                 :            :         ctx = kmalloc(sizeof(*ctx), GFP_KERNEL);
     966                 :          0 :         if (!ctx)
     967                 :            :                 return ERR_PTR(-ENOMEM);
     968                 :          0 :         nfs_sb_active(dentry->d_sb);
     969                 :          0 :         ctx->dentry = dget(dentry);
     970                 :          0 :         if (filp)
     971                 :          0 :                 ctx->cred = get_cred(filp->f_cred);
     972                 :            :         else
     973                 :          0 :                 ctx->cred = get_current_cred();
     974                 :          0 :         ctx->ll_cred = NULL;
     975                 :          0 :         ctx->state = NULL;
     976                 :          0 :         ctx->mode = f_mode;
     977                 :          0 :         ctx->flags = 0;
     978                 :          0 :         ctx->error = 0;
     979                 :          0 :         ctx->flock_owner = (fl_owner_t)filp;
     980                 :            :         nfs_init_lock_context(&ctx->lock_context);
     981                 :          0 :         ctx->lock_context.open_context = ctx;
     982                 :          0 :         INIT_LIST_HEAD(&ctx->list);
     983                 :          0 :         ctx->mdsthreshold = NULL;
     984                 :          0 :         return ctx;
     985                 :            : }
     986                 :            : EXPORT_SYMBOL_GPL(alloc_nfs_open_context);
     987                 :            : 
     988                 :          0 : struct nfs_open_context *get_nfs_open_context(struct nfs_open_context *ctx)
     989                 :            : {
     990                 :          0 :         if (ctx != NULL && refcount_inc_not_zero(&ctx->lock_context.count))
     991                 :          0 :                 return ctx;
     992                 :            :         return NULL;
     993                 :            : }
     994                 :            : EXPORT_SYMBOL_GPL(get_nfs_open_context);
     995                 :            : 
     996                 :          0 : static void __put_nfs_open_context(struct nfs_open_context *ctx, int is_sync)
     997                 :            : {
     998                 :          0 :         struct inode *inode = d_inode(ctx->dentry);
     999                 :          0 :         struct super_block *sb = ctx->dentry->d_sb;
    1000                 :            : 
    1001                 :          0 :         if (!refcount_dec_and_test(&ctx->lock_context.count))
    1002                 :          0 :                 return;
    1003                 :          0 :         if (!list_empty(&ctx->list)) {
    1004                 :            :                 spin_lock(&inode->i_lock);
    1005                 :            :                 list_del_rcu(&ctx->list);
    1006                 :            :                 spin_unlock(&inode->i_lock);
    1007                 :            :         }
    1008                 :          0 :         if (inode != NULL)
    1009                 :          0 :                 NFS_PROTO(inode)->close_context(ctx, is_sync);
    1010                 :          0 :         put_cred(ctx->cred);
    1011                 :          0 :         dput(ctx->dentry);
    1012                 :          0 :         nfs_sb_deactive(sb);
    1013                 :          0 :         put_rpccred(ctx->ll_cred);
    1014                 :          0 :         kfree(ctx->mdsthreshold);
    1015                 :          0 :         kfree_rcu(ctx, rcu_head);
    1016                 :            : }
    1017                 :            : 
    1018                 :          0 : void put_nfs_open_context(struct nfs_open_context *ctx)
    1019                 :            : {
    1020                 :          0 :         __put_nfs_open_context(ctx, 0);
    1021                 :          0 : }
    1022                 :            : EXPORT_SYMBOL_GPL(put_nfs_open_context);
    1023                 :            : 
    1024                 :            : static void put_nfs_open_context_sync(struct nfs_open_context *ctx)
    1025                 :            : {
    1026                 :          0 :         __put_nfs_open_context(ctx, 1);
    1027                 :            : }
    1028                 :            : 
    1029                 :            : /*
    1030                 :            :  * Ensure that mmap has a recent RPC credential for use when writing out
    1031                 :            :  * shared pages
    1032                 :            :  */
    1033                 :          0 : void nfs_inode_attach_open_context(struct nfs_open_context *ctx)
    1034                 :            : {
    1035                 :          0 :         struct inode *inode = d_inode(ctx->dentry);
    1036                 :            :         struct nfs_inode *nfsi = NFS_I(inode);
    1037                 :            : 
    1038                 :            :         spin_lock(&inode->i_lock);
    1039                 :          0 :         if (list_empty(&nfsi->open_files) &&
    1040                 :          0 :             (nfsi->cache_validity & NFS_INO_DATA_INVAL_DEFER))
    1041                 :          0 :                 nfsi->cache_validity |= NFS_INO_INVALID_DATA |
    1042                 :            :                         NFS_INO_REVAL_FORCED;
    1043                 :          0 :         list_add_tail_rcu(&ctx->list, &nfsi->open_files);
    1044                 :            :         spin_unlock(&inode->i_lock);
    1045                 :          0 : }
    1046                 :            : EXPORT_SYMBOL_GPL(nfs_inode_attach_open_context);
    1047                 :            : 
    1048                 :          0 : void nfs_file_set_open_context(struct file *filp, struct nfs_open_context *ctx)
    1049                 :            : {
    1050                 :          0 :         filp->private_data = get_nfs_open_context(ctx);
    1051                 :          0 :         if (list_empty(&ctx->list))
    1052                 :          0 :                 nfs_inode_attach_open_context(ctx);
    1053                 :          0 : }
    1054                 :            : EXPORT_SYMBOL_GPL(nfs_file_set_open_context);
    1055                 :            : 
    1056                 :            : /*
    1057                 :            :  * Given an inode, search for an open context with the desired characteristics
    1058                 :            :  */
    1059                 :          0 : struct nfs_open_context *nfs_find_open_context(struct inode *inode, const struct cred *cred, fmode_t mode)
    1060                 :            : {
    1061                 :            :         struct nfs_inode *nfsi = NFS_I(inode);
    1062                 :            :         struct nfs_open_context *pos, *ctx = NULL;
    1063                 :            : 
    1064                 :            :         rcu_read_lock();
    1065                 :          0 :         list_for_each_entry_rcu(pos, &nfsi->open_files, list) {
    1066                 :          0 :                 if (cred != NULL && pos->cred != cred)
    1067                 :          0 :                         continue;
    1068                 :          0 :                 if ((pos->mode & (FMODE_READ|FMODE_WRITE)) != mode)
    1069                 :          0 :                         continue;
    1070                 :            :                 ctx = get_nfs_open_context(pos);
    1071                 :          0 :                 if (ctx)
    1072                 :            :                         break;
    1073                 :            :         }
    1074                 :            :         rcu_read_unlock();
    1075                 :          0 :         return ctx;
    1076                 :            : }
    1077                 :            : 
    1078                 :          0 : void nfs_file_clear_open_context(struct file *filp)
    1079                 :            : {
    1080                 :            :         struct nfs_open_context *ctx = nfs_file_open_context(filp);
    1081                 :            : 
    1082                 :          0 :         if (ctx) {
    1083                 :          0 :                 struct inode *inode = d_inode(ctx->dentry);
    1084                 :            : 
    1085                 :            :                 /*
    1086                 :            :                  * We fatal error on write before. Try to writeback
    1087                 :            :                  * every page again.
    1088                 :            :                  */
    1089                 :          0 :                 if (ctx->error < 0)
    1090                 :          0 :                         invalidate_inode_pages2(inode->i_mapping);
    1091                 :          0 :                 filp->private_data = NULL;
    1092                 :            :                 put_nfs_open_context_sync(ctx);
    1093                 :            :         }
    1094                 :          0 : }
    1095                 :            : 
    1096                 :            : /*
    1097                 :            :  * These allocate and release file read/write context information.
    1098                 :            :  */
    1099                 :          0 : int nfs_open(struct inode *inode, struct file *filp)
    1100                 :            : {
    1101                 :            :         struct nfs_open_context *ctx;
    1102                 :            : 
    1103                 :          0 :         ctx = alloc_nfs_open_context(file_dentry(filp), filp->f_mode, filp);
    1104                 :          0 :         if (IS_ERR(ctx))
    1105                 :          0 :                 return PTR_ERR(ctx);
    1106                 :          0 :         nfs_file_set_open_context(filp, ctx);
    1107                 :            :         put_nfs_open_context(ctx);
    1108                 :          0 :         nfs_fscache_open_file(inode, filp);
    1109                 :          0 :         return 0;
    1110                 :            : }
    1111                 :            : EXPORT_SYMBOL_GPL(nfs_open);
    1112                 :            : 
    1113                 :            : /*
    1114                 :            :  * This function is called whenever some part of NFS notices that
    1115                 :            :  * the cached attributes have to be refreshed.
    1116                 :            :  */
    1117                 :            : int
    1118                 :          0 : __nfs_revalidate_inode(struct nfs_server *server, struct inode *inode)
    1119                 :            : {
    1120                 :            :         int              status = -ESTALE;
    1121                 :            :         struct nfs4_label *label = NULL;
    1122                 :            :         struct nfs_fattr *fattr = NULL;
    1123                 :            :         struct nfs_inode *nfsi = NFS_I(inode);
    1124                 :            : 
    1125                 :            :         dfprintk(PAGECACHE, "NFS: revalidating (%s/%Lu)\n",
    1126                 :            :                 inode->i_sb->s_id, (unsigned long long)NFS_FILEID(inode));
    1127                 :            : 
    1128                 :          0 :         trace_nfs_revalidate_inode_enter(inode);
    1129                 :            : 
    1130                 :          0 :         if (is_bad_inode(inode))
    1131                 :            :                 goto out;
    1132                 :          0 :         if (NFS_STALE(inode))
    1133                 :            :                 goto out;
    1134                 :            : 
    1135                 :            :         /* pNFS: Attributes aren't updated until we layoutcommit */
    1136                 :          0 :         if (S_ISREG(inode->i_mode)) {
    1137                 :            :                 status = pnfs_sync_inode(inode, false);
    1138                 :          0 :                 if (status)
    1139                 :            :                         goto out;
    1140                 :            :         }
    1141                 :            : 
    1142                 :            :         status = -ENOMEM;
    1143                 :          0 :         fattr = nfs_alloc_fattr();
    1144                 :          0 :         if (fattr == NULL)
    1145                 :            :                 goto out;
    1146                 :            : 
    1147                 :          0 :         nfs_inc_stats(inode, NFSIOS_INODEREVALIDATE);
    1148                 :            : 
    1149                 :          0 :         label = nfs4_label_alloc(NFS_SERVER(inode), GFP_KERNEL);
    1150                 :          0 :         if (IS_ERR(label)) {
    1151                 :            :                 status = PTR_ERR(label);
    1152                 :          0 :                 goto out;
    1153                 :            :         }
    1154                 :            : 
    1155                 :          0 :         status = NFS_PROTO(inode)->getattr(server, NFS_FH(inode), fattr,
    1156                 :            :                         label, inode);
    1157                 :          0 :         if (status != 0) {
    1158                 :            :                 dfprintk(PAGECACHE, "nfs_revalidate_inode: (%s/%Lu) getattr failed, error=%d\n",
    1159                 :            :                          inode->i_sb->s_id,
    1160                 :            :                          (unsigned long long)NFS_FILEID(inode), status);
    1161                 :          0 :                 if (status == -ESTALE) {
    1162                 :          0 :                         nfs_zap_caches(inode);
    1163                 :          0 :                         if (!S_ISDIR(inode->i_mode))
    1164                 :          0 :                                 set_bit(NFS_INO_STALE, &NFS_I(inode)->flags);
    1165                 :            :                 }
    1166                 :            :                 goto err_out;
    1167                 :            :         }
    1168                 :            : 
    1169                 :          0 :         status = nfs_refresh_inode(inode, fattr);
    1170                 :          0 :         if (status) {
    1171                 :            :                 dfprintk(PAGECACHE, "nfs_revalidate_inode: (%s/%Lu) refresh failed, error=%d\n",
    1172                 :            :                          inode->i_sb->s_id,
    1173                 :            :                          (unsigned long long)NFS_FILEID(inode), status);
    1174                 :            :                 goto err_out;
    1175                 :            :         }
    1176                 :            : 
    1177                 :          0 :         if (nfsi->cache_validity & NFS_INO_INVALID_ACL)
    1178                 :          0 :                 nfs_zap_acl_cache(inode);
    1179                 :            : 
    1180                 :          0 :         nfs_setsecurity(inode, fattr, label);
    1181                 :            : 
    1182                 :            :         dfprintk(PAGECACHE, "NFS: (%s/%Lu) revalidation complete\n",
    1183                 :            :                 inode->i_sb->s_id,
    1184                 :            :                 (unsigned long long)NFS_FILEID(inode));
    1185                 :            : 
    1186                 :            : err_out:
    1187                 :          0 :         nfs4_label_free(label);
    1188                 :            : out:
    1189                 :            :         nfs_free_fattr(fattr);
    1190                 :          0 :         trace_nfs_revalidate_inode_exit(inode, status);
    1191                 :          0 :         return status;
    1192                 :            : }
    1193                 :            : 
    1194                 :          0 : int nfs_attribute_cache_expired(struct inode *inode)
    1195                 :            : {
    1196                 :          0 :         if (nfs_have_delegated_attributes(inode))
    1197                 :            :                 return 0;
    1198                 :          0 :         return nfs_attribute_timeout(inode);
    1199                 :            : }
    1200                 :            : 
    1201                 :            : /**
    1202                 :            :  * nfs_revalidate_inode - Revalidate the inode attributes
    1203                 :            :  * @server: pointer to nfs_server struct
    1204                 :            :  * @inode: pointer to inode struct
    1205                 :            :  *
    1206                 :            :  * Updates inode attribute information by retrieving the data from the server.
    1207                 :            :  */
    1208                 :          0 : int nfs_revalidate_inode(struct nfs_server *server, struct inode *inode)
    1209                 :            : {
    1210                 :          0 :         if (!nfs_need_revalidate_inode(inode))
    1211                 :          0 :                 return NFS_STALE(inode) ? -ESTALE : 0;
    1212                 :          0 :         return __nfs_revalidate_inode(server, inode);
    1213                 :            : }
    1214                 :            : EXPORT_SYMBOL_GPL(nfs_revalidate_inode);
    1215                 :            : 
    1216                 :          0 : static int nfs_invalidate_mapping(struct inode *inode, struct address_space *mapping)
    1217                 :            : {
    1218                 :            :         struct nfs_inode *nfsi = NFS_I(inode);
    1219                 :            :         int ret;
    1220                 :            : 
    1221                 :          0 :         if (mapping->nrpages != 0) {
    1222                 :          0 :                 if (S_ISREG(inode->i_mode)) {
    1223                 :          0 :                         ret = nfs_sync_mapping(mapping);
    1224                 :          0 :                         if (ret < 0)
    1225                 :            :                                 return ret;
    1226                 :            :                 }
    1227                 :          0 :                 ret = invalidate_inode_pages2(mapping);
    1228                 :          0 :                 if (ret < 0)
    1229                 :            :                         return ret;
    1230                 :            :         }
    1231                 :          0 :         if (S_ISDIR(inode->i_mode)) {
    1232                 :            :                 spin_lock(&inode->i_lock);
    1233                 :          0 :                 memset(nfsi->cookieverf, 0, sizeof(nfsi->cookieverf));
    1234                 :            :                 spin_unlock(&inode->i_lock);
    1235                 :            :         }
    1236                 :          0 :         nfs_inc_stats(inode, NFSIOS_DATAINVALIDATE);
    1237                 :            :         nfs_fscache_wait_on_invalidate(inode);
    1238                 :            : 
    1239                 :            :         dfprintk(PAGECACHE, "NFS: (%s/%Lu) data cache invalidated\n",
    1240                 :            :                         inode->i_sb->s_id,
    1241                 :            :                         (unsigned long long)NFS_FILEID(inode));
    1242                 :            :         return 0;
    1243                 :            : }
    1244                 :            : 
    1245                 :          0 : bool nfs_mapping_need_revalidate_inode(struct inode *inode)
    1246                 :            : {
    1247                 :          0 :         return nfs_check_cache_invalid(inode, NFS_INO_REVAL_PAGECACHE) ||
    1248                 :            :                 NFS_STALE(inode);
    1249                 :            : }
    1250                 :            : 
    1251                 :          0 : int nfs_revalidate_mapping_rcu(struct inode *inode)
    1252                 :            : {
    1253                 :            :         struct nfs_inode *nfsi = NFS_I(inode);
    1254                 :            :         unsigned long *bitlock = &nfsi->flags;
    1255                 :            :         int ret = 0;
    1256                 :            : 
    1257                 :          0 :         if (IS_SWAPFILE(inode))
    1258                 :            :                 goto out;
    1259                 :          0 :         if (nfs_mapping_need_revalidate_inode(inode)) {
    1260                 :            :                 ret = -ECHILD;
    1261                 :            :                 goto out;
    1262                 :            :         }
    1263                 :            :         spin_lock(&inode->i_lock);
    1264                 :          0 :         if (test_bit(NFS_INO_INVALIDATING, bitlock) ||
    1265                 :          0 :             (nfsi->cache_validity & NFS_INO_INVALID_DATA))
    1266                 :            :                 ret = -ECHILD;
    1267                 :            :         spin_unlock(&inode->i_lock);
    1268                 :            : out:
    1269                 :          0 :         return ret;
    1270                 :            : }
    1271                 :            : 
    1272                 :            : /**
    1273                 :            :  * nfs_revalidate_mapping - Revalidate the pagecache
    1274                 :            :  * @inode: pointer to host inode
    1275                 :            :  * @mapping: pointer to mapping
    1276                 :            :  */
    1277                 :          0 : int nfs_revalidate_mapping(struct inode *inode,
    1278                 :            :                 struct address_space *mapping)
    1279                 :            : {
    1280                 :            :         struct nfs_inode *nfsi = NFS_I(inode);
    1281                 :          0 :         unsigned long *bitlock = &nfsi->flags;
    1282                 :            :         int ret = 0;
    1283                 :            : 
    1284                 :            :         /* swapfiles are not supposed to be shared. */
    1285                 :          0 :         if (IS_SWAPFILE(inode))
    1286                 :            :                 goto out;
    1287                 :            : 
    1288                 :          0 :         if (nfs_mapping_need_revalidate_inode(inode)) {
    1289                 :          0 :                 ret = __nfs_revalidate_inode(NFS_SERVER(inode), inode);
    1290                 :          0 :                 if (ret < 0)
    1291                 :            :                         goto out;
    1292                 :            :         }
    1293                 :            : 
    1294                 :            :         /*
    1295                 :            :          * We must clear NFS_INO_INVALID_DATA first to ensure that
    1296                 :            :          * invalidations that come in while we're shooting down the mappings
    1297                 :            :          * are respected. But, that leaves a race window where one revalidator
    1298                 :            :          * can clear the flag, and then another checks it before the mapping
    1299                 :            :          * gets invalidated. Fix that by serializing access to this part of
    1300                 :            :          * the function.
    1301                 :            :          *
    1302                 :            :          * At the same time, we need to allow other tasks to see whether we
    1303                 :            :          * might be in the middle of invalidating the pages, so we only set
    1304                 :            :          * the bit lock here if it looks like we're going to be doing that.
    1305                 :            :          */
    1306                 :            :         for (;;) {
    1307                 :          0 :                 ret = wait_on_bit_action(bitlock, NFS_INO_INVALIDATING,
    1308                 :            :                                          nfs_wait_bit_killable, TASK_KILLABLE);
    1309                 :          0 :                 if (ret)
    1310                 :            :                         goto out;
    1311                 :            :                 spin_lock(&inode->i_lock);
    1312                 :          0 :                 if (test_bit(NFS_INO_INVALIDATING, bitlock)) {
    1313                 :            :                         spin_unlock(&inode->i_lock);
    1314                 :          0 :                         continue;
    1315                 :            :                 }
    1316                 :          0 :                 if (nfsi->cache_validity & NFS_INO_INVALID_DATA)
    1317                 :            :                         break;
    1318                 :            :                 spin_unlock(&inode->i_lock);
    1319                 :            :                 goto out;
    1320                 :          0 :         }
    1321                 :            : 
    1322                 :          0 :         set_bit(NFS_INO_INVALIDATING, bitlock);
    1323                 :          0 :         smp_wmb();
    1324                 :          0 :         nfsi->cache_validity &= ~(NFS_INO_INVALID_DATA|
    1325                 :            :                         NFS_INO_DATA_INVAL_DEFER);
    1326                 :            :         spin_unlock(&inode->i_lock);
    1327                 :          0 :         trace_nfs_invalidate_mapping_enter(inode);
    1328                 :          0 :         ret = nfs_invalidate_mapping(inode, mapping);
    1329                 :          0 :         trace_nfs_invalidate_mapping_exit(inode, ret);
    1330                 :            : 
    1331                 :          0 :         clear_bit_unlock(NFS_INO_INVALIDATING, bitlock);
    1332                 :          0 :         smp_mb__after_atomic();
    1333                 :          0 :         wake_up_bit(bitlock, NFS_INO_INVALIDATING);
    1334                 :            : out:
    1335                 :          0 :         return ret;
    1336                 :            : }
    1337                 :            : 
    1338                 :            : static bool nfs_file_has_writers(struct nfs_inode *nfsi)
    1339                 :            : {
    1340                 :            :         struct inode *inode = &nfsi->vfs_inode;
    1341                 :            : 
    1342                 :          0 :         if (!S_ISREG(inode->i_mode))
    1343                 :            :                 return false;
    1344                 :          0 :         if (list_empty(&nfsi->open_files))
    1345                 :            :                 return false;
    1346                 :            :         return inode_is_open_for_write(inode);
    1347                 :            : }
    1348                 :            : 
    1349                 :            : static bool nfs_file_has_buffered_writers(struct nfs_inode *nfsi)
    1350                 :            : {
    1351                 :          0 :         return nfs_file_has_writers(nfsi) && nfs_file_io_is_buffered(nfsi);
    1352                 :            : }
    1353                 :            : 
    1354                 :          0 : static void nfs_wcc_update_inode(struct inode *inode, struct nfs_fattr *fattr)
    1355                 :            : {
    1356                 :            :         struct timespec ts;
    1357                 :            : 
    1358                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_PRECHANGE)
    1359                 :          0 :                         && (fattr->valid & NFS_ATTR_FATTR_CHANGE)
    1360                 :          0 :                         && inode_eq_iversion_raw(inode, fattr->pre_change_attr)) {
    1361                 :          0 :                 inode_set_iversion_raw(inode, fattr->change_attr);
    1362                 :          0 :                 if (S_ISDIR(inode->i_mode))
    1363                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_DATA);
    1364                 :            :         }
    1365                 :            :         /* If we have atomic WCC data, we may update some attributes */
    1366                 :            :         ts = timespec64_to_timespec(inode->i_ctime);
    1367                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_PRECTIME)
    1368                 :          0 :                         && (fattr->valid & NFS_ATTR_FATTR_CTIME)
    1369                 :          0 :                         && timespec_equal(&ts, &fattr->pre_ctime)) {
    1370                 :          0 :                 inode->i_ctime = timespec_to_timespec64(fattr->ctime);
    1371                 :            :         }
    1372                 :            : 
    1373                 :            :         ts = timespec64_to_timespec(inode->i_mtime);
    1374                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_PREMTIME)
    1375                 :          0 :                         && (fattr->valid & NFS_ATTR_FATTR_MTIME)
    1376                 :          0 :                         && timespec_equal(&ts, &fattr->pre_mtime)) {
    1377                 :          0 :                 inode->i_mtime = timespec_to_timespec64(fattr->mtime);
    1378                 :          0 :                 if (S_ISDIR(inode->i_mode))
    1379                 :          0 :                         nfs_set_cache_invalid(inode, NFS_INO_INVALID_DATA);
    1380                 :            :         }
    1381                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_PRESIZE)
    1382                 :          0 :                         && (fattr->valid & NFS_ATTR_FATTR_SIZE)
    1383                 :          0 :                         && i_size_read(inode) == nfs_size_to_loff_t(fattr->pre_size)
    1384                 :          0 :                         && !nfs_have_writebacks(inode)) {
    1385                 :          0 :                 i_size_write(inode, nfs_size_to_loff_t(fattr->size));
    1386                 :            :         }
    1387                 :          0 : }
    1388                 :            : 
    1389                 :            : /**
    1390                 :            :  * nfs_check_inode_attributes - verify consistency of the inode attribute cache
    1391                 :            :  * @inode: pointer to inode
    1392                 :            :  * @fattr: updated attributes
    1393                 :            :  *
    1394                 :            :  * Verifies the attribute cache. If we have just changed the attributes,
    1395                 :            :  * so that fattr carries weak cache consistency data, then it may
    1396                 :            :  * also update the ctime/mtime/change_attribute.
    1397                 :            :  */
    1398                 :          0 : static int nfs_check_inode_attributes(struct inode *inode, struct nfs_fattr *fattr)
    1399                 :            : {
    1400                 :            :         struct nfs_inode *nfsi = NFS_I(inode);
    1401                 :            :         loff_t cur_size, new_isize;
    1402                 :            :         unsigned long invalid = 0;
    1403                 :            :         struct timespec ts;
    1404                 :            : 
    1405                 :          0 :         if (NFS_PROTO(inode)->have_delegation(inode, FMODE_READ))
    1406                 :            :                 return 0;
    1407                 :            : 
    1408                 :          0 :         if (!(fattr->valid & NFS_ATTR_FATTR_FILEID)) {
    1409                 :            :                 /* Only a mounted-on-fileid? Just exit */
    1410                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_MOUNTED_ON_FILEID)
    1411                 :            :                         return 0;
    1412                 :            :         /* Has the inode gone and changed behind our back? */
    1413                 :          0 :         } else if (nfsi->fileid != fattr->fileid) {
    1414                 :            :                 /* Is this perhaps the mounted-on fileid? */
    1415                 :          0 :                 if ((fattr->valid & NFS_ATTR_FATTR_MOUNTED_ON_FILEID) &&
    1416                 :          0 :                     nfsi->fileid == fattr->mounted_on_fileid)
    1417                 :            :                         return 0;
    1418                 :          0 :                 return -ESTALE;
    1419                 :            :         }
    1420                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_TYPE) && (inode->i_mode & S_IFMT) != (fattr->mode & S_IFMT))
    1421                 :            :                 return -ESTALE;
    1422                 :            : 
    1423                 :            : 
    1424                 :          0 :         if (!nfs_file_has_buffered_writers(nfsi)) {
    1425                 :            :                 /* Verify a few of the more important attributes */
    1426                 :          0 :                 if ((fattr->valid & NFS_ATTR_FATTR_CHANGE) != 0 && !inode_eq_iversion_raw(inode, fattr->change_attr))
    1427                 :            :                         invalid |= NFS_INO_INVALID_CHANGE
    1428                 :            :                                 | NFS_INO_REVAL_PAGECACHE;
    1429                 :            : 
    1430                 :            :                 ts = timespec64_to_timespec(inode->i_mtime);
    1431                 :          0 :                 if ((fattr->valid & NFS_ATTR_FATTR_MTIME) && !timespec_equal(&ts, &fattr->mtime))
    1432                 :          0 :                         invalid |= NFS_INO_INVALID_MTIME;
    1433                 :            : 
    1434                 :            :                 ts = timespec64_to_timespec(inode->i_ctime);
    1435                 :          0 :                 if ((fattr->valid & NFS_ATTR_FATTR_CTIME) && !timespec_equal(&ts, &fattr->ctime))
    1436                 :          0 :                         invalid |= NFS_INO_INVALID_CTIME;
    1437                 :            : 
    1438                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_SIZE) {
    1439                 :            :                         cur_size = i_size_read(inode);
    1440                 :          0 :                         new_isize = nfs_size_to_loff_t(fattr->size);
    1441                 :          0 :                         if (cur_size != new_isize)
    1442                 :          0 :                                 invalid |= NFS_INO_INVALID_SIZE
    1443                 :            :                                         | NFS_INO_REVAL_PAGECACHE;
    1444                 :            :                 }
    1445                 :            :         }
    1446                 :            : 
    1447                 :            :         /* Have any file permissions changed? */
    1448                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_MODE) && (inode->i_mode & S_IALLUGO) != (fattr->mode & S_IALLUGO))
    1449                 :          0 :                 invalid |= NFS_INO_INVALID_ACCESS
    1450                 :            :                         | NFS_INO_INVALID_ACL
    1451                 :            :                         | NFS_INO_INVALID_OTHER;
    1452                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_OWNER) && !uid_eq(inode->i_uid, fattr->uid))
    1453                 :          0 :                 invalid |= NFS_INO_INVALID_ACCESS
    1454                 :            :                         | NFS_INO_INVALID_ACL
    1455                 :            :                         | NFS_INO_INVALID_OTHER;
    1456                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_GROUP) && !gid_eq(inode->i_gid, fattr->gid))
    1457                 :          0 :                 invalid |= NFS_INO_INVALID_ACCESS
    1458                 :            :                         | NFS_INO_INVALID_ACL
    1459                 :            :                         | NFS_INO_INVALID_OTHER;
    1460                 :            : 
    1461                 :            :         /* Has the link count changed? */
    1462                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_NLINK) && inode->i_nlink != fattr->nlink)
    1463                 :          0 :                 invalid |= NFS_INO_INVALID_OTHER;
    1464                 :            : 
    1465                 :            :         ts = timespec64_to_timespec(inode->i_atime);
    1466                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_ATIME) && !timespec_equal(&ts, &fattr->atime))
    1467                 :          0 :                 invalid |= NFS_INO_INVALID_ATIME;
    1468                 :            : 
    1469                 :          0 :         if (invalid != 0)
    1470                 :          0 :                 nfs_set_cache_invalid(inode, invalid);
    1471                 :            : 
    1472                 :          0 :         nfsi->read_cache_jiffies = fattr->time_start;
    1473                 :          0 :         return 0;
    1474                 :            : }
    1475                 :            : 
    1476                 :            : static atomic_long_t nfs_attr_generation_counter;
    1477                 :            : 
    1478                 :            : static unsigned long nfs_read_attr_generation_counter(void)
    1479                 :            : {
    1480                 :            :         return atomic_long_read(&nfs_attr_generation_counter);
    1481                 :            : }
    1482                 :            : 
    1483                 :          0 : unsigned long nfs_inc_attr_generation_counter(void)
    1484                 :            : {
    1485                 :          0 :         return atomic_long_inc_return(&nfs_attr_generation_counter);
    1486                 :            : }
    1487                 :            : EXPORT_SYMBOL_GPL(nfs_inc_attr_generation_counter);
    1488                 :            : 
    1489                 :          0 : void nfs_fattr_init(struct nfs_fattr *fattr)
    1490                 :            : {
    1491                 :          0 :         fattr->valid = 0;
    1492                 :          0 :         fattr->time_start = jiffies;
    1493                 :          0 :         fattr->gencount = nfs_inc_attr_generation_counter();
    1494                 :          0 :         fattr->owner_name = NULL;
    1495                 :          0 :         fattr->group_name = NULL;
    1496                 :          0 : }
    1497                 :            : EXPORT_SYMBOL_GPL(nfs_fattr_init);
    1498                 :            : 
    1499                 :            : /**
    1500                 :            :  * nfs_fattr_set_barrier
    1501                 :            :  * @fattr: attributes
    1502                 :            :  *
    1503                 :            :  * Used to set a barrier after an attribute was updated. This
    1504                 :            :  * barrier ensures that older attributes from RPC calls that may
    1505                 :            :  * have raced with our update cannot clobber these new values.
    1506                 :            :  * Note that you are still responsible for ensuring that other
    1507                 :            :  * operations which change the attribute on the server do not
    1508                 :            :  * collide.
    1509                 :            :  */
    1510                 :          0 : void nfs_fattr_set_barrier(struct nfs_fattr *fattr)
    1511                 :            : {
    1512                 :          0 :         fattr->gencount = nfs_inc_attr_generation_counter();
    1513                 :          0 : }
    1514                 :            : 
    1515                 :          0 : struct nfs_fattr *nfs_alloc_fattr(void)
    1516                 :            : {
    1517                 :            :         struct nfs_fattr *fattr;
    1518                 :            : 
    1519                 :            :         fattr = kmalloc(sizeof(*fattr), GFP_NOFS);
    1520                 :          0 :         if (fattr != NULL)
    1521                 :            :                 nfs_fattr_init(fattr);
    1522                 :          0 :         return fattr;
    1523                 :            : }
    1524                 :            : EXPORT_SYMBOL_GPL(nfs_alloc_fattr);
    1525                 :            : 
    1526                 :          0 : struct nfs_fh *nfs_alloc_fhandle(void)
    1527                 :            : {
    1528                 :            :         struct nfs_fh *fh;
    1529                 :            : 
    1530                 :            :         fh = kmalloc(sizeof(struct nfs_fh), GFP_NOFS);
    1531                 :          0 :         if (fh != NULL)
    1532                 :          0 :                 fh->size = 0;
    1533                 :          0 :         return fh;
    1534                 :            : }
    1535                 :            : EXPORT_SYMBOL_GPL(nfs_alloc_fhandle);
    1536                 :            : 
    1537                 :            : #ifdef NFS_DEBUG
    1538                 :            : /*
    1539                 :            :  * _nfs_display_fhandle_hash - calculate the crc32 hash for the filehandle
    1540                 :            :  *                             in the same way that wireshark does
    1541                 :            :  *
    1542                 :            :  * @fh: file handle
    1543                 :            :  *
    1544                 :            :  * For debugging only.
    1545                 :            :  */
    1546                 :            : u32 _nfs_display_fhandle_hash(const struct nfs_fh *fh)
    1547                 :            : {
    1548                 :            :         /* wireshark uses 32-bit AUTODIN crc and does a bitwise
    1549                 :            :          * not on the result */
    1550                 :            :         return nfs_fhandle_hash(fh);
    1551                 :            : }
    1552                 :            : EXPORT_SYMBOL_GPL(_nfs_display_fhandle_hash);
    1553                 :            : 
    1554                 :            : /*
    1555                 :            :  * _nfs_display_fhandle - display an NFS file handle on the console
    1556                 :            :  *
    1557                 :            :  * @fh: file handle to display
    1558                 :            :  * @caption: display caption
    1559                 :            :  *
    1560                 :            :  * For debugging only.
    1561                 :            :  */
    1562                 :            : void _nfs_display_fhandle(const struct nfs_fh *fh, const char *caption)
    1563                 :            : {
    1564                 :            :         unsigned short i;
    1565                 :            : 
    1566                 :            :         if (fh == NULL || fh->size == 0) {
    1567                 :            :                 printk(KERN_DEFAULT "%s at %p is empty\n", caption, fh);
    1568                 :            :                 return;
    1569                 :            :         }
    1570                 :            : 
    1571                 :            :         printk(KERN_DEFAULT "%s at %p is %u bytes, crc: 0x%08x:\n",
    1572                 :            :                caption, fh, fh->size, _nfs_display_fhandle_hash(fh));
    1573                 :            :         for (i = 0; i < fh->size; i += 16) {
    1574                 :            :                 __be32 *pos = (__be32 *)&fh->data[i];
    1575                 :            : 
    1576                 :            :                 switch ((fh->size - i - 1) >> 2) {
    1577                 :            :                 case 0:
    1578                 :            :                         printk(KERN_DEFAULT " %08x\n",
    1579                 :            :                                 be32_to_cpup(pos));
    1580                 :            :                         break;
    1581                 :            :                 case 1:
    1582                 :            :                         printk(KERN_DEFAULT " %08x %08x\n",
    1583                 :            :                                 be32_to_cpup(pos), be32_to_cpup(pos + 1));
    1584                 :            :                         break;
    1585                 :            :                 case 2:
    1586                 :            :                         printk(KERN_DEFAULT " %08x %08x %08x\n",
    1587                 :            :                                 be32_to_cpup(pos), be32_to_cpup(pos + 1),
    1588                 :            :                                 be32_to_cpup(pos + 2));
    1589                 :            :                         break;
    1590                 :            :                 default:
    1591                 :            :                         printk(KERN_DEFAULT " %08x %08x %08x %08x\n",
    1592                 :            :                                 be32_to_cpup(pos), be32_to_cpup(pos + 1),
    1593                 :            :                                 be32_to_cpup(pos + 2), be32_to_cpup(pos + 3));
    1594                 :            :                 }
    1595                 :            :         }
    1596                 :            : }
    1597                 :            : EXPORT_SYMBOL_GPL(_nfs_display_fhandle);
    1598                 :            : #endif
    1599                 :            : 
    1600                 :            : /**
    1601                 :            :  * nfs_inode_attrs_need_update - check if the inode attributes need updating
    1602                 :            :  * @inode: pointer to inode
    1603                 :            :  * @fattr: attributes
    1604                 :            :  *
    1605                 :            :  * Attempt to divine whether or not an RPC call reply carrying stale
    1606                 :            :  * attributes got scheduled after another call carrying updated ones.
    1607                 :            :  *
    1608                 :            :  * To do so, the function first assumes that a more recent ctime means
    1609                 :            :  * that the attributes in fattr are newer, however it also attempt to
    1610                 :            :  * catch the case where ctime either didn't change, or went backwards
    1611                 :            :  * (if someone reset the clock on the server) by looking at whether
    1612                 :            :  * or not this RPC call was started after the inode was last updated.
    1613                 :            :  * Note also the check for wraparound of 'attr_gencount'
    1614                 :            :  *
    1615                 :            :  * The function returns 'true' if it thinks the attributes in 'fattr' are
    1616                 :            :  * more recent than the ones cached in the inode.
    1617                 :            :  *
    1618                 :            :  */
    1619                 :            : static int nfs_inode_attrs_need_update(const struct inode *inode, const struct nfs_fattr *fattr)
    1620                 :            : {
    1621                 :            :         const struct nfs_inode *nfsi = NFS_I(inode);
    1622                 :            : 
    1623                 :          0 :         return ((long)fattr->gencount - (long)nfsi->attr_gencount) > 0 ||
    1624                 :          0 :                 ((long)nfsi->attr_gencount - (long)nfs_read_attr_generation_counter() > 0);
    1625                 :            : }
    1626                 :            : 
    1627                 :          0 : static int nfs_refresh_inode_locked(struct inode *inode, struct nfs_fattr *fattr)
    1628                 :            : {
    1629                 :            :         int ret;
    1630                 :            : 
    1631                 :          0 :         trace_nfs_refresh_inode_enter(inode);
    1632                 :            : 
    1633                 :          0 :         if (nfs_inode_attrs_need_update(inode, fattr))
    1634                 :          0 :                 ret = nfs_update_inode(inode, fattr);
    1635                 :            :         else
    1636                 :          0 :                 ret = nfs_check_inode_attributes(inode, fattr);
    1637                 :            : 
    1638                 :          0 :         trace_nfs_refresh_inode_exit(inode, ret);
    1639                 :          0 :         return ret;
    1640                 :            : }
    1641                 :            : 
    1642                 :            : /**
    1643                 :            :  * nfs_refresh_inode - try to update the inode attribute cache
    1644                 :            :  * @inode: pointer to inode
    1645                 :            :  * @fattr: updated attributes
    1646                 :            :  *
    1647                 :            :  * Check that an RPC call that returned attributes has not overlapped with
    1648                 :            :  * other recent updates of the inode metadata, then decide whether it is
    1649                 :            :  * safe to do a full update of the inode attributes, or whether just to
    1650                 :            :  * call nfs_check_inode_attributes.
    1651                 :            :  */
    1652                 :          0 : int nfs_refresh_inode(struct inode *inode, struct nfs_fattr *fattr)
    1653                 :            : {
    1654                 :            :         int status;
    1655                 :            : 
    1656                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR) == 0)
    1657                 :            :                 return 0;
    1658                 :            :         spin_lock(&inode->i_lock);
    1659                 :          0 :         status = nfs_refresh_inode_locked(inode, fattr);
    1660                 :            :         spin_unlock(&inode->i_lock);
    1661                 :            : 
    1662                 :          0 :         return status;
    1663                 :            : }
    1664                 :            : EXPORT_SYMBOL_GPL(nfs_refresh_inode);
    1665                 :            : 
    1666                 :          0 : static int nfs_post_op_update_inode_locked(struct inode *inode,
    1667                 :            :                 struct nfs_fattr *fattr, unsigned int invalid)
    1668                 :            : {
    1669                 :          0 :         if (S_ISDIR(inode->i_mode))
    1670                 :          0 :                 invalid |= NFS_INO_INVALID_DATA;
    1671                 :          0 :         nfs_set_cache_invalid(inode, invalid);
    1672                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR) == 0)
    1673                 :            :                 return 0;
    1674                 :          0 :         return nfs_refresh_inode_locked(inode, fattr);
    1675                 :            : }
    1676                 :            : 
    1677                 :            : /**
    1678                 :            :  * nfs_post_op_update_inode - try to update the inode attribute cache
    1679                 :            :  * @inode: pointer to inode
    1680                 :            :  * @fattr: updated attributes
    1681                 :            :  *
    1682                 :            :  * After an operation that has changed the inode metadata, mark the
    1683                 :            :  * attribute cache as being invalid, then try to update it.
    1684                 :            :  *
    1685                 :            :  * NB: if the server didn't return any post op attributes, this
    1686                 :            :  * function will force the retrieval of attributes before the next
    1687                 :            :  * NFS request.  Thus it should be used only for operations that
    1688                 :            :  * are expected to change one or more attributes, to avoid
    1689                 :            :  * unnecessary NFS requests and trips through nfs_update_inode().
    1690                 :            :  */
    1691                 :          0 : int nfs_post_op_update_inode(struct inode *inode, struct nfs_fattr *fattr)
    1692                 :            : {
    1693                 :            :         int status;
    1694                 :            : 
    1695                 :            :         spin_lock(&inode->i_lock);
    1696                 :            :         nfs_fattr_set_barrier(fattr);
    1697                 :          0 :         status = nfs_post_op_update_inode_locked(inode, fattr,
    1698                 :            :                         NFS_INO_INVALID_CHANGE
    1699                 :            :                         | NFS_INO_INVALID_CTIME
    1700                 :            :                         | NFS_INO_REVAL_FORCED);
    1701                 :            :         spin_unlock(&inode->i_lock);
    1702                 :            : 
    1703                 :          0 :         return status;
    1704                 :            : }
    1705                 :            : EXPORT_SYMBOL_GPL(nfs_post_op_update_inode);
    1706                 :            : 
    1707                 :            : /**
    1708                 :            :  * nfs_post_op_update_inode_force_wcc_locked - update the inode attribute cache
    1709                 :            :  * @inode: pointer to inode
    1710                 :            :  * @fattr: updated attributes
    1711                 :            :  *
    1712                 :            :  * After an operation that has changed the inode metadata, mark the
    1713                 :            :  * attribute cache as being invalid, then try to update it. Fake up
    1714                 :            :  * weak cache consistency data, if none exist.
    1715                 :            :  *
    1716                 :            :  * This function is mainly designed to be used by the ->write_done() functions.
    1717                 :            :  */
    1718                 :          0 : int nfs_post_op_update_inode_force_wcc_locked(struct inode *inode, struct nfs_fattr *fattr)
    1719                 :            : {
    1720                 :            :         int status;
    1721                 :            : 
    1722                 :            :         /* Don't do a WCC update if these attributes are already stale */
    1723                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR) == 0 ||
    1724                 :            :                         !nfs_inode_attrs_need_update(inode, fattr)) {
    1725                 :          0 :                 fattr->valid &= ~(NFS_ATTR_FATTR_PRECHANGE
    1726                 :            :                                 | NFS_ATTR_FATTR_PRESIZE
    1727                 :            :                                 | NFS_ATTR_FATTR_PREMTIME
    1728                 :            :                                 | NFS_ATTR_FATTR_PRECTIME);
    1729                 :          0 :                 goto out_noforce;
    1730                 :            :         }
    1731                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_CHANGE) != 0 &&
    1732                 :            :                         (fattr->valid & NFS_ATTR_FATTR_PRECHANGE) == 0) {
    1733                 :          0 :                 fattr->pre_change_attr = inode_peek_iversion_raw(inode);
    1734                 :          0 :                 fattr->valid |= NFS_ATTR_FATTR_PRECHANGE;
    1735                 :            :         }
    1736                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_CTIME) != 0 &&
    1737                 :            :                         (fattr->valid & NFS_ATTR_FATTR_PRECTIME) == 0) {
    1738                 :          0 :                 fattr->pre_ctime = timespec64_to_timespec(inode->i_ctime);
    1739                 :          0 :                 fattr->valid |= NFS_ATTR_FATTR_PRECTIME;
    1740                 :            :         }
    1741                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_MTIME) != 0 &&
    1742                 :            :                         (fattr->valid & NFS_ATTR_FATTR_PREMTIME) == 0) {
    1743                 :          0 :                 fattr->pre_mtime = timespec64_to_timespec(inode->i_mtime);
    1744                 :          0 :                 fattr->valid |= NFS_ATTR_FATTR_PREMTIME;
    1745                 :            :         }
    1746                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_SIZE) != 0 &&
    1747                 :            :                         (fattr->valid & NFS_ATTR_FATTR_PRESIZE) == 0) {
    1748                 :          0 :                 fattr->pre_size = i_size_read(inode);
    1749                 :          0 :                 fattr->valid |= NFS_ATTR_FATTR_PRESIZE;
    1750                 :            :         }
    1751                 :            : out_noforce:
    1752                 :          0 :         status = nfs_post_op_update_inode_locked(inode, fattr,
    1753                 :            :                         NFS_INO_INVALID_CHANGE
    1754                 :            :                         | NFS_INO_INVALID_CTIME
    1755                 :            :                         | NFS_INO_INVALID_MTIME
    1756                 :            :                         | NFS_INO_INVALID_BLOCKS);
    1757                 :          0 :         return status;
    1758                 :            : }
    1759                 :            : 
    1760                 :            : /**
    1761                 :            :  * nfs_post_op_update_inode_force_wcc - try to update the inode attribute cache
    1762                 :            :  * @inode: pointer to inode
    1763                 :            :  * @fattr: updated attributes
    1764                 :            :  *
    1765                 :            :  * After an operation that has changed the inode metadata, mark the
    1766                 :            :  * attribute cache as being invalid, then try to update it. Fake up
    1767                 :            :  * weak cache consistency data, if none exist.
    1768                 :            :  *
    1769                 :            :  * This function is mainly designed to be used by the ->write_done() functions.
    1770                 :            :  */
    1771                 :          0 : int nfs_post_op_update_inode_force_wcc(struct inode *inode, struct nfs_fattr *fattr)
    1772                 :            : {
    1773                 :            :         int status;
    1774                 :            : 
    1775                 :            :         spin_lock(&inode->i_lock);
    1776                 :            :         nfs_fattr_set_barrier(fattr);
    1777                 :          0 :         status = nfs_post_op_update_inode_force_wcc_locked(inode, fattr);
    1778                 :            :         spin_unlock(&inode->i_lock);
    1779                 :          0 :         return status;
    1780                 :            : }
    1781                 :            : EXPORT_SYMBOL_GPL(nfs_post_op_update_inode_force_wcc);
    1782                 :            : 
    1783                 :            : 
    1784                 :            : /*
    1785                 :            :  * Many nfs protocol calls return the new file attributes after
    1786                 :            :  * an operation.  Here we update the inode to reflect the state
    1787                 :            :  * of the server's inode.
    1788                 :            :  *
    1789                 :            :  * This is a bit tricky because we have to make sure all dirty pages
    1790                 :            :  * have been sent off to the server before calling invalidate_inode_pages.
    1791                 :            :  * To make sure no other process adds more write requests while we try
    1792                 :            :  * our best to flush them, we make them sleep during the attribute refresh.
    1793                 :            :  *
    1794                 :            :  * A very similar scenario holds for the dir cache.
    1795                 :            :  */
    1796                 :          0 : static int nfs_update_inode(struct inode *inode, struct nfs_fattr *fattr)
    1797                 :            : {
    1798                 :            :         struct nfs_server *server;
    1799                 :            :         struct nfs_inode *nfsi = NFS_I(inode);
    1800                 :            :         loff_t cur_isize, new_isize;
    1801                 :            :         unsigned long invalid = 0;
    1802                 :          0 :         unsigned long now = jiffies;
    1803                 :            :         unsigned long save_cache_validity;
    1804                 :            :         bool have_writers = nfs_file_has_buffered_writers(nfsi);
    1805                 :            :         bool cache_revalidated = true;
    1806                 :            :         bool attr_changed = false;
    1807                 :            :         bool have_delegation;
    1808                 :            : 
    1809                 :            :         dfprintk(VFS, "NFS: %s(%s/%lu fh_crc=0x%08x ct=%d info=0x%x)\n",
    1810                 :            :                         __func__, inode->i_sb->s_id, inode->i_ino,
    1811                 :            :                         nfs_display_fhandle_hash(NFS_FH(inode)),
    1812                 :            :                         atomic_read(&inode->i_count), fattr->valid);
    1813                 :            : 
    1814                 :          0 :         if (!(fattr->valid & NFS_ATTR_FATTR_FILEID)) {
    1815                 :            :                 /* Only a mounted-on-fileid? Just exit */
    1816                 :          0 :                 if (fattr->valid & NFS_ATTR_FATTR_MOUNTED_ON_FILEID)
    1817                 :            :                         return 0;
    1818                 :            :         /* Has the inode gone and changed behind our back? */
    1819                 :          0 :         } else if (nfsi->fileid != fattr->fileid) {
    1820                 :            :                 /* Is this perhaps the mounted-on fileid? */
    1821                 :          0 :                 if ((fattr->valid & NFS_ATTR_FATTR_MOUNTED_ON_FILEID) &&
    1822                 :          0 :                     nfsi->fileid == fattr->mounted_on_fileid)
    1823                 :            :                         return 0;
    1824                 :          0 :                 printk(KERN_ERR "NFS: server %s error: fileid changed\n"
    1825                 :            :                         "fsid %s: expected fileid 0x%Lx, got 0x%Lx\n",
    1826                 :          0 :                         NFS_SERVER(inode)->nfs_client->cl_hostname,
    1827                 :          0 :                         inode->i_sb->s_id, (long long)nfsi->fileid,
    1828                 :            :                         (long long)fattr->fileid);
    1829                 :          0 :                 goto out_err;
    1830                 :            :         }
    1831                 :            : 
    1832                 :            :         /*
    1833                 :            :          * Make sure the inode's type hasn't changed.
    1834                 :            :          */
    1835                 :          0 :         if ((fattr->valid & NFS_ATTR_FATTR_TYPE) && (inode->i_mode & S_IFMT) != (fattr->mode & S_IFMT)) {
    1836                 :            :                 /*
    1837                 :            :                 * Big trouble! The inode has become a different object.
    1838                 :            :                 */
    1839                 :          0 :                 printk(KERN_DEBUG "NFS: %s: inode %lu mode changed, %07o to %07o\n",
    1840                 :            :                                 __func__, inode->i_ino, inode->i_mode, fattr->mode);
    1841                 :          0 :                 goto out_err;
    1842                 :            :         }
    1843                 :            : 
    1844                 :            :         server = NFS_SERVER(inode);
    1845                 :            :         /* Update the fsid? */
    1846                 :          0 :         if (S_ISDIR(inode->i_mode) && (fattr->valid & NFS_ATTR_FATTR_FSID) &&
    1847                 :          0 :                         !nfs_fsid_equal(&server->fsid, &fattr->fsid) &&
    1848                 :          0 :                         !IS_AUTOMOUNT(inode))
    1849                 :          0 :                 server->fsid = fattr->fsid;
    1850                 :            : 
    1851                 :            :         /* Save the delegation state before clearing cache_validity */
    1852                 :          0 :         have_delegation = nfs_have_delegated_attributes(inode);
    1853                 :            : 
    1854                 :            :         /*
    1855                 :            :          * Update the read time so we don't revalidate too often.
    1856                 :            :          */
    1857                 :          0 :         nfsi->read_cache_jiffies = fattr->time_start;
    1858                 :            : 
    1859                 :          0 :         save_cache_validity = nfsi->cache_validity;
    1860                 :          0 :         nfsi->cache_validity &= ~(NFS_INO_INVALID_ATTR
    1861                 :            :                         | NFS_INO_INVALID_ATIME
    1862                 :            :                         | NFS_INO_REVAL_FORCED
    1863                 :            :                         | NFS_INO_REVAL_PAGECACHE
    1864                 :            :                         | NFS_INO_INVALID_BLOCKS);
    1865                 :            : 
    1866                 :            :         /* Do atomic weak cache consistency updates */
    1867                 :          0 :         nfs_wcc_update_inode(inode, fattr);
    1868                 :            : 
    1869                 :          0 :         if (pnfs_layoutcommit_outstanding(inode)) {
    1870                 :          0 :                 nfsi->cache_validity |= save_cache_validity & NFS_INO_INVALID_ATTR;
    1871                 :            :                 cache_revalidated = false;
    1872                 :            :         }
    1873                 :            : 
    1874                 :            :         /* More cache consistency checks */
    1875                 :          0 :         if (fattr->valid & NFS_ATTR_FATTR_CHANGE) {
    1876                 :          0 :                 if (!inode_eq_iversion_raw(inode, fattr->change_attr)) {
    1877                 :            :                         /* Could it be a race with writeback? */
    1878                 :          0 :                         if (!(have_writers || have_delegation)) {
    1879                 :            :                                 invalid |= NFS_INO_INVALID_DATA
    1880                 :            :                                         | NFS_INO_INVALID_ACCESS
    1881                 :            :                                         | NFS_INO_INVALID_ACL;
    1882                 :            :                                 /* Force revalidate of all attributes */
    1883                 :          0 :                                 save_cache_validity |= NFS_INO_INVALID_CTIME
    1884                 :            :                                         | NFS_INO_INVALID_MTIME
    1885                 :            :                                         | NFS_INO_INVALID_SIZE
    1886                 :            :                                         | NFS_INO_INVALID_OTHER;
    1887                 :          0 :                                 if (S_ISDIR(inode->i_mode))
    1888                 :          0 :                                         nfs_force_lookup_revalidate(inode);
    1889                 :            :                                 dprintk("NFS: change_attr change on server for file %s/%ld\n",
    1890                 :            :                                                 inode->i_sb->s_id,
    1891                 :            :                                                 inode->i_ino);
    1892                 :          0 :                         } else if (!have_delegation)
    1893                 :          0 :                                 nfsi->cache_validity |= NFS_INO_DATA_INVAL_DEFER;
    1894                 :          0 :                         inode_set_iversion_raw(inode, fattr->change_attr);
    1895                 :            :                         attr_changed = true;
    1896                 :            :                 }
    1897                 :            :         } else {
    1898                 :          0 :                 nfsi->cache_validity |= save_cache_validity &
    1899                 :            :                                 (NFS_INO_INVALID_CHANGE
    1900                 :            :                                 | NFS_INO_REVAL_PAGECACHE
    1901                 :            :                                 | NFS_INO_REVAL_FORCED);
    1902                 :            :                 cache_revalidated = false;
    1903                 :            :         }
    1904                 :            : 
    1905                 :          0 :         if (fattr->valid & NFS_ATTR_FATTR_MTIME) {
    1906                 :          0 :                 inode->i_mtime = timespec_to_timespec64(fattr->mtime);
    1907                 :          0 :         } else if (server->caps & NFS_CAP_MTIME) {
    1908                 :          0 :                 nfsi->cache_validity |= save_cache_validity &
    1909                 :            :                                 (NFS_INO_INVALID_MTIME
    1910                 :            :                                 | NFS_INO_REVAL_FORCED);
    1911                 :            :                 cache_revalidated = false;
    1912                 :            :         }
    1913                 :            : 
    1914                 :          0 :         if (fattr->valid & NFS_ATTR_FATTR_CTIME) {
    1915                 :          0 :                 inode->i_ctime = timespec_to_timespec64(fattr->ctime);
    1916                 :          0 :         } else if (server->caps & NFS_CAP_CTIME) {
    1917                 :          0 :                 nfsi->cache_validity |= save_cache_validity &
    1918                 :            :                                 (NFS_INO_INVALID_CTIME
    1919                 :            :                                 | NFS_INO_REVAL_FORCED);
    1920                 :            :                 cache_revalidated = false;
    1921                 :            :         }
    1922                 :            : 
    1923                 :            :         /* Check if our cached file size is stale */
    1924                 :          0 :         if (fattr->valid & NFS_ATTR_FATTR_SIZE) {
    1925                 :          0 :                 new_isize = nfs_size_to_loff_t(fattr->size);
    1926                 :            :                 cur_isize = i_size_read(inode);
    1927                 :          0 :                 if (new_isize != cur_isize && !have_delegation) {
    1928                 :            :                         /* Do we perhaps have any outstanding writes, or has
    1929                 :            :                          * the file grown beyond our last write? */
    1930                 :          0 :                         if (!nfs_have_writebacks(inode) || new_isize > cur_isize) {
    1931                 :            :                                 i_size_write(inode, new_isize);
    1932                 :          0 :                                 if (!have_writers)
    1933                 :          0 :                                         invalid |= NFS_INO_INVALID_DATA;
    1934                 :            :                                 attr_changed = true;
    1935                 :            :                         }
    1936                 :            :                         dprintk("NFS: isize change on server for file %s/%ld "
    1937                 :            :                                         "(%Ld to %Ld)\n",
    1938                 :            :                                         inode->i_sb->s_id,
    1939                 :            :                                         inode->i_ino,
    1940                 :            :                                         (long long)cur_isize,
    1941                 :            :                                         (long long)new_isize);
    1942                 :            :                 }
    1943                 :            :         } else {
    1944                 :          0 :                 nfsi->cache_validity |= save_cache_validity &
    1945                 :            :                                 (NFS_INO_INVALID_SIZE
    1946                 :            :                                 | NFS_INO_REVAL_PAGECACHE
    1947                 :            :                                 | NFS_INO_REVAL_FORCED);
    1948                 :            :                 cache_revalidated = false;
    1949                 :            :         }
    1950                 :            : 
    1951                 :            : 
    1952                 :          0 :         if (fattr->valid & NFS_ATTR_FATTR_ATIME)
    1953                 :          0 :                 inode->i_atime = timespec_to_timespec64(fattr->atime);
    1954                 :          0 :         else if (server->caps & NFS_CAP_ATIME) {
    1955                 :          0 :                 nfsi->cache_validity |= save_cache_validity &
    1956                 :            :                                 (NFS_INO_INVALID_ATIME
    1957                 :            :                                 | NFS_INO_REVAL_FORCED);
    1958                 :            :                 cache_revalidated = false;
    1959                 :            :         }
    1960                 :            : 
    1961                 :          0 :         if (fattr->valid & NFS_ATTR_FATTR_MODE) {
    1962                 :          0 :                 if ((inode->i_mode & S_IALLUGO) != (fattr->mode & S_IALLUGO)) {
    1963                 :          0 :                         umode_t newmode = inode->i_mode & S_IFMT;
    1964                 :          0 :                         newmode |= fattr->mode & S_IALLUGO;
    1965                 :          0 :                         inode->i_mode = newmode;
    1966                 :          0 :                         invalid |= NFS_INO_INVALID_ACCESS
    1967                 :            :                                 | NFS_INO_INVALID_ACL;
    1968                 :            :                         attr_changed = true;
    1969                 :            :                 }
    1970                 :          0 :         } else if (server->caps & NFS_CAP_MODE) {
    1971                 :          0 :                 nfsi->cache_validity |= save_cache_validity &
    1972                 :            :                                 (NFS_INO_INVALID_OTHER
    1973                 :            :                                 | NFS_INO_REVAL_FORCED);
    1974                 :            :                 cache_revalidated = false;
    1975                 :            :         }
    1976                 :            : 
    1977                 :          0 :         if (fattr->valid & NFS_ATTR_FATTR_OWNER) {
    1978                 :          0 :                 if (!uid_eq(inode->i_uid, fattr->uid)) {
    1979                 :          0 :                         invalid |= NFS_INO_INVALID_ACCESS
    1980                 :            :                                 | NFS_INO_INVALID_ACL;
    1981                 :          0 :                         inode->i_uid = fattr->uid;
    1982                 :            :                         attr_changed = true;
    1983                 :            :                 }
    1984                 :          0 :         } else if (server->caps & NFS_CAP_OWNER) {
    1985                 :          0 :                 nfsi->cache_validity |= save_cache_validity &
    1986                 :            :                                 (NFS_INO_INVALID_OTHER
    1987                 :            :                                 | NFS_INO_REVAL_FORCED);
    1988                 :            :                 cache_revalidated = false;
    1989                 :            :         }
    1990                 :            : 
    1991                 :          0 :         if (fattr->valid & NFS_ATTR_FATTR_GROUP) {
    1992                 :          0 :                 if (!gid_eq(inode->i_gid, fattr->gid)) {
    1993                 :          0 :                         invalid |= NFS_INO_INVALID_ACCESS
    1994                 :            :                                 | NFS_INO_INVALID_ACL;
    1995                 :          0 :                         inode->i_gid = fattr->gid;
    1996                 :            :                         attr_changed = true;
    1997                 :            :                 }
    1998                 :          0 :         } else if (server->caps & NFS_CAP_OWNER_GROUP) {
    1999                 :          0 :                 nfsi->cache_validity |= save_cache_validity &
    2000                 :            :                                 (NFS_INO_INVALID_OTHER
    2001                 :            :                                 | NFS_INO_REVAL_FORCED);
    2002                 :            :                 cache_revalidated = false;
    2003                 :            :         }
    2004                 :            : 
    2005                 :          0 :         if (fattr->valid & NFS_ATTR_FATTR_NLINK) {
    2006                 :          0 :                 if (inode->i_nlink != fattr->nlink) {
    2007                 :          0 :                         if (S_ISDIR(inode->i_mode))
    2008                 :          0 :                                 invalid |= NFS_INO_INVALID_DATA;
    2009                 :          0 :                         set_nlink(inode, fattr->nlink);
    2010                 :            :                         attr_changed = true;
    2011                 :            :                 }
    2012                 :          0 :         } else if (server->caps & NFS_CAP_NLINK) {
    2013                 :          0 :                 nfsi->cache_validity |= save_cache_validity &
    2014                 :            :                                 (NFS_INO_INVALID_OTHER
    2015                 :            :                                 | NFS_INO_REVAL_FORCED);
    2016                 :            :                 cache_revalidated = false;
    2017                 :            :         }
    2018                 :            : 
    2019                 :          0 :         if (fattr->valid & NFS_ATTR_FATTR_SPACE_USED) {
    2020                 :            :                 /*
    2021                 :            :                  * report the blocks in 512byte units
    2022                 :            :                  */
    2023                 :          0 :                 inode->i_blocks = nfs_calc_block_size(fattr->du.nfs3.used);
    2024                 :          0 :         } else if (fattr->valid & NFS_ATTR_FATTR_BLOCKS_USED)
    2025                 :          0 :                 inode->i_blocks = fattr->du.nfs2.blocks;
    2026                 :            :         else {
    2027                 :          0 :                 nfsi->cache_validity |= save_cache_validity &
    2028                 :            :                                 (NFS_INO_INVALID_BLOCKS
    2029                 :            :                                 | NFS_INO_REVAL_FORCED);
    2030                 :            :                 cache_revalidated = false;
    2031                 :            :         }
    2032                 :            : 
    2033                 :            :         /* Update attrtimeo value if we're out of the unstable period */
    2034                 :          0 :         if (attr_changed) {
    2035                 :          0 :                 invalid &= ~NFS_INO_INVALID_ATTR;
    2036                 :          0 :                 nfs_inc_stats(inode, NFSIOS_ATTRINVALIDATE);
    2037                 :          0 :                 nfsi->attrtimeo = NFS_MINATTRTIMEO(inode);
    2038                 :          0 :                 nfsi->attrtimeo_timestamp = now;
    2039                 :            :                 /* Set barrier to be more recent than all outstanding updates */
    2040                 :          0 :                 nfsi->attr_gencount = nfs_inc_attr_generation_counter();
    2041                 :            :         } else {
    2042                 :          0 :                 if (cache_revalidated) {
    2043                 :          0 :                         if (!time_in_range_open(now, nfsi->attrtimeo_timestamp,
    2044                 :            :                                 nfsi->attrtimeo_timestamp + nfsi->attrtimeo)) {
    2045                 :          0 :                                 nfsi->attrtimeo <<= 1;
    2046                 :          0 :                                 if (nfsi->attrtimeo > NFS_MAXATTRTIMEO(inode))
    2047                 :          0 :                                         nfsi->attrtimeo = NFS_MAXATTRTIMEO(inode);
    2048                 :            :                         }
    2049                 :          0 :                         nfsi->attrtimeo_timestamp = now;
    2050                 :            :                 }
    2051                 :            :                 /* Set the barrier to be more recent than this fattr */
    2052                 :          0 :                 if ((long)fattr->gencount - (long)nfsi->attr_gencount > 0)
    2053                 :          0 :                         nfsi->attr_gencount = fattr->gencount;
    2054                 :            :         }
    2055                 :            : 
    2056                 :            :         /* Don't invalidate the data if we were to blame */
    2057                 :          0 :         if (!(S_ISREG(inode->i_mode) || S_ISDIR(inode->i_mode)
    2058                 :            :                                 || S_ISLNK(inode->i_mode)))
    2059                 :          0 :                 invalid &= ~NFS_INO_INVALID_DATA;
    2060                 :          0 :         nfs_set_cache_invalid(inode, invalid);
    2061                 :            : 
    2062                 :          0 :         return 0;
    2063                 :            :  out_err:
    2064                 :            :         /*
    2065                 :            :          * No need to worry about unhashing the dentry, as the
    2066                 :            :          * lookup validation will know that the inode is bad.
    2067                 :            :          * (But we fall through to invalidate the caches.)
    2068                 :            :          */
    2069                 :            :         nfs_invalidate_inode(inode);
    2070                 :          0 :         return -ESTALE;
    2071                 :            : }
    2072                 :            : 
    2073                 :          0 : struct inode *nfs_alloc_inode(struct super_block *sb)
    2074                 :            : {
    2075                 :            :         struct nfs_inode *nfsi;
    2076                 :          0 :         nfsi = kmem_cache_alloc(nfs_inode_cachep, GFP_KERNEL);
    2077                 :          0 :         if (!nfsi)
    2078                 :            :                 return NULL;
    2079                 :          0 :         nfsi->flags = 0UL;
    2080                 :          0 :         nfsi->cache_validity = 0UL;
    2081                 :            : #if IS_ENABLED(CONFIG_NFS_V4)
    2082                 :          0 :         nfsi->nfs4_acl = NULL;
    2083                 :            : #endif /* CONFIG_NFS_V4 */
    2084                 :          0 :         return &nfsi->vfs_inode;
    2085                 :            : }
    2086                 :            : EXPORT_SYMBOL_GPL(nfs_alloc_inode);
    2087                 :            : 
    2088                 :          0 : void nfs_free_inode(struct inode *inode)
    2089                 :            : {
    2090                 :          0 :         kmem_cache_free(nfs_inode_cachep, NFS_I(inode));
    2091                 :          0 : }
    2092                 :            : EXPORT_SYMBOL_GPL(nfs_free_inode);
    2093                 :            : 
    2094                 :            : static inline void nfs4_init_once(struct nfs_inode *nfsi)
    2095                 :            : {
    2096                 :            : #if IS_ENABLED(CONFIG_NFS_V4)
    2097                 :          0 :         INIT_LIST_HEAD(&nfsi->open_states);
    2098                 :          0 :         nfsi->delegation = NULL;
    2099                 :          0 :         init_rwsem(&nfsi->rwsem);
    2100                 :          0 :         nfsi->layout = NULL;
    2101                 :            : #endif
    2102                 :            : }
    2103                 :            : 
    2104                 :          0 : static void init_once(void *foo)
    2105                 :            : {
    2106                 :            :         struct nfs_inode *nfsi = (struct nfs_inode *) foo;
    2107                 :            : 
    2108                 :          0 :         inode_init_once(&nfsi->vfs_inode);
    2109                 :          0 :         INIT_LIST_HEAD(&nfsi->open_files);
    2110                 :          0 :         INIT_LIST_HEAD(&nfsi->access_cache_entry_lru);
    2111                 :          0 :         INIT_LIST_HEAD(&nfsi->access_cache_inode_lru);
    2112                 :          0 :         INIT_LIST_HEAD(&nfsi->commit_info.list);
    2113                 :            :         atomic_long_set(&nfsi->nrequests, 0);
    2114                 :            :         atomic_long_set(&nfsi->commit_info.ncommit, 0);
    2115                 :            :         atomic_set(&nfsi->commit_info.rpcs_out, 0);
    2116                 :          0 :         init_rwsem(&nfsi->rmdir_sem);
    2117                 :          0 :         mutex_init(&nfsi->commit_mutex);
    2118                 :            :         nfs4_init_once(nfsi);
    2119                 :          0 : }
    2120                 :            : 
    2121                 :          3 : static int __init nfs_init_inodecache(void)
    2122                 :            : {
    2123                 :          3 :         nfs_inode_cachep = kmem_cache_create("nfs_inode_cache",
    2124                 :            :                                              sizeof(struct nfs_inode),
    2125                 :            :                                              0, (SLAB_RECLAIM_ACCOUNT|
    2126                 :            :                                                 SLAB_MEM_SPREAD|SLAB_ACCOUNT),
    2127                 :            :                                              init_once);
    2128                 :          3 :         if (nfs_inode_cachep == NULL)
    2129                 :            :                 return -ENOMEM;
    2130                 :            : 
    2131                 :          3 :         return 0;
    2132                 :            : }
    2133                 :            : 
    2134                 :            : static void nfs_destroy_inodecache(void)
    2135                 :            : {
    2136                 :            :         /*
    2137                 :            :          * Make sure all delayed rcu free inodes are flushed before we
    2138                 :            :          * destroy cache.
    2139                 :            :          */
    2140                 :          0 :         rcu_barrier();
    2141                 :          0 :         kmem_cache_destroy(nfs_inode_cachep);
    2142                 :            : }
    2143                 :            : 
    2144                 :            : struct workqueue_struct *nfsiod_workqueue;
    2145                 :            : EXPORT_SYMBOL_GPL(nfsiod_workqueue);
    2146                 :            : 
    2147                 :            : /*
    2148                 :            :  * start up the nfsiod workqueue
    2149                 :            :  */
    2150                 :          3 : static int nfsiod_start(void)
    2151                 :            : {
    2152                 :            :         struct workqueue_struct *wq;
    2153                 :            :         dprintk("RPC:       creating workqueue nfsiod\n");
    2154                 :          3 :         wq = alloc_workqueue("nfsiod", WQ_MEM_RECLAIM, 0);
    2155                 :          3 :         if (wq == NULL)
    2156                 :            :                 return -ENOMEM;
    2157                 :          3 :         nfsiod_workqueue = wq;
    2158                 :          3 :         return 0;
    2159                 :            : }
    2160                 :            : 
    2161                 :            : /*
    2162                 :            :  * Destroy the nfsiod workqueue
    2163                 :            :  */
    2164                 :            : static void nfsiod_stop(void)
    2165                 :            : {
    2166                 :            :         struct workqueue_struct *wq;
    2167                 :            : 
    2168                 :          0 :         wq = nfsiod_workqueue;
    2169                 :          0 :         if (wq == NULL)
    2170                 :            :                 return;
    2171                 :          0 :         nfsiod_workqueue = NULL;
    2172                 :          0 :         destroy_workqueue(wq);
    2173                 :            : }
    2174                 :            : 
    2175                 :            : unsigned int nfs_net_id;
    2176                 :            : EXPORT_SYMBOL_GPL(nfs_net_id);
    2177                 :            : 
    2178                 :          3 : static int nfs_net_init(struct net *net)
    2179                 :            : {
    2180                 :          3 :         nfs_clients_init(net);
    2181                 :          3 :         return nfs_fs_proc_net_init(net);
    2182                 :            : }
    2183                 :            : 
    2184                 :          0 : static void nfs_net_exit(struct net *net)
    2185                 :            : {
    2186                 :          0 :         nfs_fs_proc_net_exit(net);
    2187                 :          0 :         nfs_clients_exit(net);
    2188                 :          0 : }
    2189                 :            : 
    2190                 :            : static struct pernet_operations nfs_net_ops = {
    2191                 :            :         .init = nfs_net_init,
    2192                 :            :         .exit = nfs_net_exit,
    2193                 :            :         .id   = &nfs_net_id,
    2194                 :            :         .size = sizeof(struct nfs_net),
    2195                 :            : };
    2196                 :            : 
    2197                 :            : /*
    2198                 :            :  * Initialize NFS
    2199                 :            :  */
    2200                 :          3 : static int __init init_nfs_fs(void)
    2201                 :            : {
    2202                 :            :         int err;
    2203                 :            : 
    2204                 :          3 :         err = nfs_sysfs_init();
    2205                 :          3 :         if (err < 0)
    2206                 :            :                 goto out10;
    2207                 :            : 
    2208                 :          3 :         err = register_pernet_subsys(&nfs_net_ops);
    2209                 :          3 :         if (err < 0)
    2210                 :            :                 goto out9;
    2211                 :            : 
    2212                 :          3 :         err = nfs_fscache_register();
    2213                 :          3 :         if (err < 0)
    2214                 :            :                 goto out8;
    2215                 :            : 
    2216                 :          3 :         err = nfsiod_start();
    2217                 :          3 :         if (err)
    2218                 :            :                 goto out7;
    2219                 :            : 
    2220                 :          3 :         err = nfs_fs_proc_init();
    2221                 :          3 :         if (err)
    2222                 :            :                 goto out6;
    2223                 :            : 
    2224                 :          3 :         err = nfs_init_nfspagecache();
    2225                 :          3 :         if (err)
    2226                 :            :                 goto out5;
    2227                 :            : 
    2228                 :          3 :         err = nfs_init_inodecache();
    2229                 :          3 :         if (err)
    2230                 :            :                 goto out4;
    2231                 :            : 
    2232                 :          3 :         err = nfs_init_readpagecache();
    2233                 :          3 :         if (err)
    2234                 :            :                 goto out3;
    2235                 :            : 
    2236                 :          3 :         err = nfs_init_writepagecache();
    2237                 :          3 :         if (err)
    2238                 :            :                 goto out2;
    2239                 :            : 
    2240                 :          3 :         err = nfs_init_directcache();
    2241                 :          3 :         if (err)
    2242                 :            :                 goto out1;
    2243                 :            : 
    2244                 :          3 :         rpc_proc_register(&init_net, &nfs_rpcstat);
    2245                 :            : 
    2246                 :          3 :         err = register_nfs_fs();
    2247                 :          3 :         if (err)
    2248                 :            :                 goto out0;
    2249                 :            : 
    2250                 :            :         return 0;
    2251                 :            : out0:
    2252                 :          0 :         rpc_proc_unregister(&init_net, "nfs");
    2253                 :          0 :         nfs_destroy_directcache();
    2254                 :            : out1:
    2255                 :          0 :         nfs_destroy_writepagecache();
    2256                 :            : out2:
    2257                 :          0 :         nfs_destroy_readpagecache();
    2258                 :            : out3:
    2259                 :            :         nfs_destroy_inodecache();
    2260                 :            : out4:
    2261                 :          0 :         nfs_destroy_nfspagecache();
    2262                 :            : out5:
    2263                 :          0 :         nfs_fs_proc_exit();
    2264                 :            : out6:
    2265                 :            :         nfsiod_stop();
    2266                 :            : out7:
    2267                 :          0 :         nfs_fscache_unregister();
    2268                 :            : out8:
    2269                 :          0 :         unregister_pernet_subsys(&nfs_net_ops);
    2270                 :            : out9:
    2271                 :          0 :         nfs_sysfs_exit();
    2272                 :            : out10:
    2273                 :          0 :         return err;
    2274                 :            : }
    2275                 :            : 
    2276                 :          0 : static void __exit exit_nfs_fs(void)
    2277                 :            : {
    2278                 :          0 :         nfs_destroy_directcache();
    2279                 :          0 :         nfs_destroy_writepagecache();
    2280                 :          0 :         nfs_destroy_readpagecache();
    2281                 :            :         nfs_destroy_inodecache();
    2282                 :          0 :         nfs_destroy_nfspagecache();
    2283                 :          0 :         nfs_fscache_unregister();
    2284                 :          0 :         unregister_pernet_subsys(&nfs_net_ops);
    2285                 :          0 :         rpc_proc_unregister(&init_net, "nfs");
    2286                 :          0 :         unregister_nfs_fs();
    2287                 :          0 :         nfs_fs_proc_exit();
    2288                 :            :         nfsiod_stop();
    2289                 :          0 :         nfs_sysfs_exit();
    2290                 :          0 : }
    2291                 :            : 
    2292                 :            : /* Not quite true; I just maintain it */
    2293                 :            : MODULE_AUTHOR("Olaf Kirch <okir@monad.swb.de>");
    2294                 :            : MODULE_LICENSE("GPL");
    2295                 :            : module_param(enable_ino64, bool, 0644);
    2296                 :            : 
    2297                 :            : module_init(init_nfs_fs)
    2298                 :            : module_exit(exit_nfs_fs)
    

Generated by: LCOV version 1.14