LCOV - code coverage report
Current view: top level - fs/ext4 - block_validity.c (source / functions) Hit Total Coverage
Test: gcov_data_raspi2_real_modules_combined.info Lines: 88 141 62.4 %
Date: 2020-09-30 20:25:40 Functions: 6 12 50.0 %
Branches: 59 104 56.7 %

           Branch data     Line data    Source code
       1                 :            : // SPDX-License-Identifier: GPL-2.0
       2                 :            : /*
       3                 :            :  *  linux/fs/ext4/block_validity.c
       4                 :            :  *
       5                 :            :  * Copyright (C) 2009
       6                 :            :  * Theodore Ts'o (tytso@mit.edu)
       7                 :            :  *
       8                 :            :  * Track which blocks in the filesystem are metadata blocks that
       9                 :            :  * should never be used as data blocks by files or directories.
      10                 :            :  */
      11                 :            : 
      12                 :            : #include <linux/time.h>
      13                 :            : #include <linux/fs.h>
      14                 :            : #include <linux/namei.h>
      15                 :            : #include <linux/quotaops.h>
      16                 :            : #include <linux/buffer_head.h>
      17                 :            : #include <linux/swap.h>
      18                 :            : #include <linux/pagemap.h>
      19                 :            : #include <linux/blkdev.h>
      20                 :            : #include <linux/slab.h>
      21                 :            : #include "ext4.h"
      22                 :            : 
      23                 :            : struct ext4_system_zone {
      24                 :            :         struct rb_node  node;
      25                 :            :         ext4_fsblk_t    start_blk;
      26                 :            :         unsigned int    count;
      27                 :            : };
      28                 :            : 
      29                 :            : static struct kmem_cache *ext4_system_zone_cachep;
      30                 :            : 
      31                 :        207 : int __init ext4_init_system_zone(void)
      32                 :            : {
      33                 :        207 :         ext4_system_zone_cachep = KMEM_CACHE(ext4_system_zone, 0);
      34         [ +  - ]:        207 :         if (ext4_system_zone_cachep == NULL)
      35                 :            :                 return -ENOMEM;
      36                 :        207 :         return 0;
      37                 :            : }
      38                 :            : 
      39                 :          0 : void ext4_exit_system_zone(void)
      40                 :            : {
      41                 :          0 :         rcu_barrier();
      42                 :          0 :         kmem_cache_destroy(ext4_system_zone_cachep);
      43                 :          0 : }
      44                 :            : 
      45                 :            : static inline int can_merge(struct ext4_system_zone *entry1,
      46                 :            :                      struct ext4_system_zone *entry2)
      47                 :            : {
      48   [ +  +  +  + ]:      60651 :         if ((entry1->start_blk + entry1->count) == entry2->start_blk)
      49                 :            :                 return 1;
      50                 :            :         return 0;
      51                 :            : }
      52                 :            : 
      53                 :          0 : static void release_system_zone(struct ext4_system_blocks *system_blks)
      54                 :            : {
      55                 :            :         struct ext4_system_zone *entry, *n;
      56                 :            : 
      57   [ #  #  #  #  :          0 :         rbtree_postorder_for_each_entry_safe(entry, n,
                   #  # ]
      58                 :            :                                 &system_blks->root, node)
      59                 :          0 :                 kmem_cache_free(ext4_system_zone_cachep, entry);
      60                 :          0 : }
      61                 :            : 
      62                 :            : /*
      63                 :            :  * Mark a range of blocks as belonging to the "system zone" --- that
      64                 :            :  * is, filesystem metadata blocks which should never be used by
      65                 :            :  * inodes.
      66                 :            :  */
      67                 :      34983 : static int add_system_zone(struct ext4_system_blocks *system_blks,
      68                 :            :                            ext4_fsblk_t start_blk,
      69                 :            :                            unsigned int count)
      70                 :            : {
      71                 :            :         struct ext4_system_zone *new_entry, *entry;
      72                 :      34983 :         struct rb_node **n = &system_blks->root.rb_node, *node;
      73                 :            :         struct rb_node *parent = NULL, *new_node = NULL;
      74                 :            : 
      75         [ +  + ]:     198927 :         while (*n) {
      76                 :            :                 parent = *n;
      77                 :            :                 entry = rb_entry(parent, struct ext4_system_zone, node);
      78         [ +  + ]:     128961 :                 if (start_blk < entry->start_blk)
      79                 :      35190 :                         n = &(*n)->rb_left;
      80         [ +  - ]:      93771 :                 else if (start_blk >= (entry->start_blk + entry->count))
      81                 :      93771 :                         n = &(*n)->rb_right;
      82                 :            :                 else    /* Unexpected overlap of system zones. */
      83                 :            :                         return -EFSCORRUPTED;
      84                 :            :         }
      85                 :            : 
      86                 :      34983 :         new_entry = kmem_cache_alloc(ext4_system_zone_cachep,
      87                 :            :                                      GFP_KERNEL);
      88         [ +  - ]:      34983 :         if (!new_entry)
      89                 :            :                 return -ENOMEM;
      90                 :      34983 :         new_entry->start_blk = start_blk;
      91                 :      34983 :         new_entry->count = count;
      92                 :      34983 :         new_node = &new_entry->node;
      93                 :            : 
      94                 :            :         rb_link_node(new_node, parent, n);
      95                 :      34983 :         rb_insert_color(new_node, &system_blks->root);
      96                 :            : 
      97                 :            :         /* Can we merge to the left? */
      98                 :      34983 :         node = rb_prev(new_node);
      99         [ +  + ]:      34983 :         if (node) {
     100                 :            :                 entry = rb_entry(node, struct ext4_system_zone, node);
     101         [ +  + ]:      34776 :                 if (can_merge(entry, new_entry)) {
     102                 :      30429 :                         new_entry->start_blk = entry->start_blk;
     103                 :      30429 :                         new_entry->count += entry->count;
     104                 :      30429 :                         rb_erase(node, &system_blks->root);
     105                 :      30429 :                         kmem_cache_free(ext4_system_zone_cachep, entry);
     106                 :            :                 }
     107                 :            :         }
     108                 :            : 
     109                 :            :         /* Can we merge to the right? */
     110                 :      34983 :         node = rb_next(new_node);
     111         [ +  + ]:      34983 :         if (node) {
     112                 :            :                 entry = rb_entry(node, struct ext4_system_zone, node);
     113         [ +  + ]:      25875 :                 if (can_merge(new_entry, entry)) {
     114                 :       1656 :                         new_entry->count += entry->count;
     115                 :       1656 :                         rb_erase(node, &system_blks->root);
     116                 :       1656 :                         kmem_cache_free(ext4_system_zone_cachep, entry);
     117                 :            :                 }
     118                 :            :         }
     119                 :            :         return 0;
     120                 :            : }
     121                 :            : 
     122                 :          0 : static void debug_print_tree(struct ext4_sb_info *sbi)
     123                 :            : {
     124                 :            :         struct rb_node *node;
     125                 :            :         struct ext4_system_zone *entry;
     126                 :            :         int first = 1;
     127                 :            : 
     128                 :          0 :         printk(KERN_INFO "System zones: ");
     129                 :          0 :         node = rb_first(&sbi->system_blks->root);
     130         [ #  # ]:          0 :         while (node) {
     131                 :            :                 entry = rb_entry(node, struct ext4_system_zone, node);
     132         [ #  # ]:          0 :                 printk(KERN_CONT "%s%llu-%llu", first ? "" : ", ",
     133                 :          0 :                        entry->start_blk, entry->start_blk + entry->count - 1);
     134                 :            :                 first = 0;
     135                 :          0 :                 node = rb_next(node);
     136                 :            :         }
     137                 :          0 :         printk(KERN_CONT "\n");
     138                 :          0 : }
     139                 :            : 
     140                 :            : /*
     141                 :            :  * Returns 1 if the passed-in block region (start_blk,
     142                 :            :  * start_blk+count) is valid; 0 if some part of the block region
     143                 :            :  * overlaps with filesystem metadata blocks.
     144                 :            :  */
     145                 :    3860428 : static int ext4_data_block_valid_rcu(struct ext4_sb_info *sbi,
     146                 :            :                                      struct ext4_system_blocks *system_blks,
     147                 :            :                                      ext4_fsblk_t start_blk,
     148                 :            :                                      unsigned int count)
     149                 :            : {
     150                 :            :         struct ext4_system_zone *entry;
     151                 :            :         struct rb_node *n;
     152                 :            : 
     153   [ +  +  +  + ]:    7720942 :         if ((start_blk <= le32_to_cpu(sbi->s_es->s_first_data_block)) ||
     154         [ +  + ]:    7718948 :             (start_blk + count < start_blk) ||
     155                 :            :             (start_blk + count > ext4_blocks_count(sbi->s_es))) {
     156                 :          0 :                 sbi->s_es->s_last_error_block = cpu_to_le64(start_blk);
     157                 :          0 :                 return 0;
     158                 :            :         }
     159                 :            : 
     160         [ +  + ]:    3860428 :         if (system_blks == NULL)
     161                 :            :                 return 1;
     162                 :            : 
     163                 :    3858197 :         n = system_blks->root.rb_node;
     164         [ +  + ]:   22371215 :         while (n) {
     165                 :            :                 entry = rb_entry(n, struct ext4_system_zone, node);
     166         [ +  + ]:   14642634 :                 if (start_blk + count - 1 < entry->start_blk)
     167                 :    6623839 :                         n = n->rb_left;
     168         [ +  - ]:    8018795 :                 else if (start_blk >= (entry->start_blk + entry->count))
     169                 :    8030982 :                         n = n->rb_right;
     170                 :            :                 else {
     171                 :            :                         sbi->s_es->s_last_error_block = cpu_to_le64(start_blk);
     172                 :            :                         return 0;
     173                 :            :                 }
     174                 :            :         }
     175                 :            :         return 1;
     176                 :            : }
     177                 :            : 
     178                 :        207 : static int ext4_protect_reserved_inode(struct super_block *sb,
     179                 :            :                                        struct ext4_system_blocks *system_blks,
     180                 :            :                                        u32 ino)
     181                 :            : {
     182                 :            :         struct inode *inode;
     183                 :            :         struct ext4_sb_info *sbi = EXT4_SB(sb);
     184                 :            :         struct ext4_map_blocks map;
     185                 :            :         u32 i = 0, num;
     186                 :            :         int err = 0, n;
     187                 :            : 
     188   [ +  -  +  - ]:        414 :         if ((ino < EXT4_ROOT_INO) ||
     189                 :        207 :             (ino > le32_to_cpu(sbi->s_es->s_inodes_count)))
     190                 :            :                 return -EINVAL;
     191                 :        207 :         inode = ext4_iget(sb, ino, EXT4_IGET_SPECIAL);
     192         [ -  + ]:        207 :         if (IS_ERR(inode))
     193                 :          0 :                 return PTR_ERR(inode);
     194                 :        207 :         num = (inode->i_size + sb->s_blocksize - 1) >> sb->s_blocksize_bits;
     195         [ +  + ]:        621 :         while (i < num) {
     196                 :        207 :                 cond_resched();
     197                 :        207 :                 map.m_lblk = i;
     198                 :        207 :                 map.m_len = num - i;
     199                 :        207 :                 n = ext4_map_blocks(NULL, inode, &map, 0);
     200         [ -  + ]:        207 :                 if (n < 0) {
     201                 :          0 :                         err = n;
     202                 :          0 :                         break;
     203                 :            :                 }
     204         [ -  + ]:        207 :                 if (n == 0) {
     205                 :          0 :                         i++;
     206                 :            :                 } else {
     207         [ -  + ]:        207 :                         if (!ext4_data_block_valid_rcu(sbi, system_blks,
     208                 :            :                                                 map.m_pblk, n)) {
     209                 :          0 :                                 ext4_error(sb, "blocks %llu-%llu from inode %u "
     210                 :            :                                            "overlap system zone", map.m_pblk,
     211                 :            :                                            map.m_pblk + map.m_len - 1, ino);
     212                 :            :                                 err = -EFSCORRUPTED;
     213                 :          0 :                                 break;
     214                 :            :                         }
     215                 :        207 :                         err = add_system_zone(system_blks, map.m_pblk, n);
     216         [ +  - ]:        207 :                         if (err < 0)
     217                 :            :                                 break;
     218                 :        207 :                         i += n;
     219                 :            :                 }
     220                 :            :         }
     221                 :        207 :         iput(inode);
     222                 :        207 :         return err;
     223                 :            : }
     224                 :            : 
     225                 :          0 : static void ext4_destroy_system_zone(struct rcu_head *rcu)
     226                 :            : {
     227                 :            :         struct ext4_system_blocks *system_blks;
     228                 :            : 
     229                 :          0 :         system_blks = container_of(rcu, struct ext4_system_blocks, rcu);
     230                 :          0 :         release_system_zone(system_blks);
     231                 :          0 :         kfree(system_blks);
     232                 :          0 : }
     233                 :            : 
     234                 :            : /*
     235                 :            :  * Build system zone rbtree which is used for block validity checking.
     236                 :            :  *
     237                 :            :  * The update of system_blks pointer in this function is protected by
     238                 :            :  * sb->s_umount semaphore. However we have to be careful as we can be
     239                 :            :  * racing with ext4_data_block_valid() calls reading system_blks rbtree
     240                 :            :  * protected only by RCU. That's why we first build the rbtree and then
     241                 :            :  * swap it in place.
     242                 :            :  */
     243                 :        414 : int ext4_setup_system_zone(struct super_block *sb)
     244                 :            : {
     245                 :            :         ext4_group_t ngroups = ext4_get_groups_count(sb);
     246                 :            :         struct ext4_sb_info *sbi = EXT4_SB(sb);
     247                 :            :         struct ext4_system_blocks *system_blks;
     248                 :            :         struct ext4_group_desc *gdp;
     249                 :            :         ext4_group_t i;
     250                 :            :         int flex_size = ext4_flex_bg_size(sbi);
     251                 :            :         int ret;
     252                 :            : 
     253         [ -  + ]:        414 :         if (!test_opt(sb, BLOCK_VALIDITY)) {
     254         [ #  # ]:          0 :                 if (sbi->system_blks)
     255                 :          0 :                         ext4_release_system_zone(sb);
     256                 :            :                 return 0;
     257                 :            :         }
     258         [ +  + ]:        414 :         if (sbi->system_blks)
     259                 :            :                 return 0;
     260                 :            : 
     261                 :        207 :         system_blks = kzalloc(sizeof(*system_blks), GFP_KERNEL);
     262         [ +  - ]:        207 :         if (!system_blks)
     263                 :            :                 return -ENOMEM;
     264                 :            : 
     265         [ +  + ]:      10971 :         for (i=0; i < ngroups; i++) {
     266                 :      10971 :                 cond_resched();
     267   [ +  +  +  + ]:      10971 :                 if (ext4_bg_has_super(sb, i) &&
     268         [ +  - ]:       1242 :                     ((i < 5) || ((i % flex_size) == 0)))
     269                 :       1863 :                         add_system_zone(system_blks,
     270                 :            :                                         ext4_group_first_block_no(sb, i),
     271                 :       1863 :                                         ext4_bg_num_gdb(sb, i) + 1);
     272                 :      10971 :                 gdp = ext4_get_group_desc(sb, i, NULL);
     273                 :      10971 :                 ret = add_system_zone(system_blks,
     274                 :            :                                 ext4_block_bitmap(sb, gdp), 1);
     275         [ +  - ]:      10971 :                 if (ret)
     276                 :            :                         goto err;
     277                 :      10971 :                 ret = add_system_zone(system_blks,
     278                 :            :                                 ext4_inode_bitmap(sb, gdp), 1);
     279         [ +  - ]:      10971 :                 if (ret)
     280                 :            :                         goto err;
     281                 :      21942 :                 ret = add_system_zone(system_blks,
     282                 :            :                                 ext4_inode_table(sb, gdp),
     283                 :      10971 :                                 sbi->s_itb_per_group);
     284         [ +  - ]:      10971 :                 if (ret)
     285                 :            :                         goto err;
     286                 :            :         }
     287   [ +  -  +  - ]:        207 :         if (ext4_has_feature_journal(sb) && sbi->s_es->s_journal_inum) {
     288                 :        207 :                 ret = ext4_protect_reserved_inode(sb, system_blks,
     289                 :            :                                 le32_to_cpu(sbi->s_es->s_journal_inum));
     290         [ +  - ]:        207 :                 if (ret)
     291                 :            :                         goto err;
     292                 :            :         }
     293                 :            : 
     294                 :            :         /*
     295                 :            :          * System blks rbtree complete, announce it once to prevent racing
     296                 :            :          * with ext4_data_block_valid() accessing the rbtree at the same
     297                 :            :          * time.
     298                 :            :          */
     299                 :        207 :         rcu_assign_pointer(sbi->system_blks, system_blks);
     300                 :            : 
     301         [ -  + ]:        207 :         if (test_opt(sb, DEBUG))
     302                 :          0 :                 debug_print_tree(sbi);
     303                 :            :         return 0;
     304                 :            : err:
     305                 :          0 :         release_system_zone(system_blks);
     306                 :          0 :         kfree(system_blks);
     307                 :          0 :         return ret;
     308                 :            : }
     309                 :            : 
     310                 :            : /*
     311                 :            :  * Called when the filesystem is unmounted or when remounting it with
     312                 :            :  * noblock_validity specified.
     313                 :            :  *
     314                 :            :  * The update of system_blks pointer in this function is protected by
     315                 :            :  * sb->s_umount semaphore. However we have to be careful as we can be
     316                 :            :  * racing with ext4_data_block_valid() calls reading system_blks rbtree
     317                 :            :  * protected only by RCU. So we first clear the system_blks pointer and
     318                 :            :  * then free the rbtree only after RCU grace period expires.
     319                 :            :  */
     320                 :          0 : void ext4_release_system_zone(struct super_block *sb)
     321                 :            : {
     322                 :            :         struct ext4_system_blocks *system_blks;
     323                 :            : 
     324                 :          0 :         system_blks = rcu_dereference_protected(EXT4_SB(sb)->system_blks,
     325                 :            :                                         lockdep_is_held(&sb->s_umount));
     326                 :            :         rcu_assign_pointer(EXT4_SB(sb)->system_blks, NULL);
     327                 :            : 
     328         [ #  # ]:          0 :         if (system_blks)
     329                 :          0 :                 call_rcu(&system_blks->rcu, ext4_destroy_system_zone);
     330                 :          0 : }
     331                 :            : 
     332                 :    3858159 : int ext4_data_block_valid(struct ext4_sb_info *sbi, ext4_fsblk_t start_blk,
     333                 :            :                           unsigned int count)
     334                 :            : {
     335                 :            :         struct ext4_system_blocks *system_blks;
     336                 :            :         int ret;
     337                 :            : 
     338                 :            :         /*
     339                 :            :          * Lock the system zone to prevent it being released concurrently
     340                 :            :          * when doing a remount which inverse current "[no]block_validity"
     341                 :            :          * mount option.
     342                 :            :          */
     343                 :            :         rcu_read_lock();
     344                 :    3857787 :         system_blks = rcu_dereference(sbi->system_blks);
     345                 :    3857787 :         ret = ext4_data_block_valid_rcu(sbi, system_blks, start_blk,
     346                 :            :                                         count);
     347                 :            :         rcu_read_unlock();
     348                 :    3860454 :         return ret;
     349                 :            : }
     350                 :            : 
     351                 :          0 : int ext4_check_blockref(const char *function, unsigned int line,
     352                 :            :                         struct inode *inode, __le32 *p, unsigned int max)
     353                 :            : {
     354                 :          0 :         struct ext4_super_block *es = EXT4_SB(inode->i_sb)->s_es;
     355                 :            :         __le32 *bref = p;
     356                 :            :         unsigned int blk;
     357                 :            : 
     358   [ #  #  #  # ]:          0 :         if (ext4_has_feature_journal(inode->i_sb) &&
     359                 :          0 :             (inode->i_ino ==
     360                 :          0 :              le32_to_cpu(EXT4_SB(inode->i_sb)->s_es->s_journal_inum)))
     361                 :            :                 return 0;
     362                 :            : 
     363         [ #  # ]:          0 :         while (bref < p+max) {
     364                 :          0 :                 blk = le32_to_cpu(*bref++);
     365   [ #  #  #  # ]:          0 :                 if (blk &&
     366                 :          0 :                     unlikely(!ext4_data_block_valid(EXT4_SB(inode->i_sb),
     367                 :            :                                                     blk, 1))) {
     368                 :          0 :                         es->s_last_error_block = cpu_to_le64(blk);
     369                 :          0 :                         ext4_error_inode(inode, function, line, blk,
     370                 :            :                                          "invalid block");
     371                 :          0 :                         return -EFSCORRUPTED;
     372                 :            :                 }
     373                 :            :         }
     374                 :            :         return 0;
     375                 :            : }
     376                 :            : 

Generated by: LCOV version 1.14