Branch data     Line data    Source code

       1                 :            : /* SPDX-License-Identifier: GPL-2.0 */
       2                 :            : #ifndef _ASM_X86_TLB_H
       3                 :            : #define _ASM_X86_TLB_H
       4                 :            : 
       5                 :            : #define tlb_start_vma(tlb, vma) do { } while (0)
       6                 :            : #define tlb_end_vma(tlb, vma) do { } while (0)
       7                 :            : #define __tlb_remove_tlb_entry(tlb, ptep, address) do { } while (0)
       8                 :            : 
       9                 :            : #define tlb_flush tlb_flush
      10                 :            : static inline void tlb_flush(struct mmu_gather *tlb);
      11                 :            : 
      12                 :            : #include <asm-generic/tlb.h>
      13                 :            : 
      14                 :     280032 : static inline void tlb_flush(struct mmu_gather *tlb)
      15                 :            : {
      16                 :     280032 :         unsigned long start = 0UL, end = TLB_FLUSH_ALL;
      17         [ +  + ]:     280032 :         unsigned int stride_shift = tlb_get_unmap_shift(tlb);
      18                 :            : 
      19         [ +  + ]:     280032 :         if (!tlb->fullmm && !tlb->need_flush_all) {
      20                 :     152521 :                 start = tlb->start;
      21                 :     152521 :                 end = tlb->end;
      22                 :            :         }
      23                 :            : 
      24                 :     280032 :         flush_tlb_mm_range(tlb->mm, start, end, stride_shift, tlb->freed_tables);
      25                 :     280032 : }
      26                 :            : 
      27                 :            : /*
      28                 :            :  * While x86 architecture in general requires an IPI to perform TLB
      29                 :            :  * shootdown, enablement code for several hypervisors overrides
      30                 :            :  * .flush_tlb_others hook in pv_mmu_ops and implements it by issuing
      31                 :            :  * a hypercall. To keep software pagetable walkers safe in this case we
      32                 :            :  * switch to RCU based table free (MMU_GATHER_RCU_TABLE_FREE). See the comment
      33                 :            :  * below 'ifdef CONFIG_MMU_GATHER_RCU_TABLE_FREE' in include/asm-generic/tlb.h
      34                 :            :  * for more details.
      35                 :            :  */
      36                 :          0 : static inline void __tlb_remove_table(void *table)
      37                 :            : {
      38                 :          0 :         free_page_and_swap_cache(table);
      39                 :            : }
      40                 :            : 
      41                 :            : #endif /* _ASM_X86_TLB_H */