Branch data Line data Source code
1 : : // SPDX-License-Identifier: GPL-2.0+
2 : : /*
3 : : * 2002-10-15 Posix Clocks & timers
4 : : * by George Anzinger george@mvista.com
5 : : * Copyright (C) 2002 2003 by MontaVista Software.
6 : : *
7 : : * 2004-06-01 Fix CLOCK_REALTIME clock/timer TIMER_ABSTIME bug.
8 : : * Copyright (C) 2004 Boris Hu
9 : : *
10 : : * These are all the functions necessary to implement POSIX clocks & timers
11 : : */
12 : : #include <linux/mm.h>
13 : : #include <linux/interrupt.h>
14 : : #include <linux/slab.h>
15 : : #include <linux/time.h>
16 : : #include <linux/mutex.h>
17 : : #include <linux/sched/task.h>
18 : :
19 : : #include <linux/uaccess.h>
20 : : #include <linux/list.h>
21 : : #include <linux/init.h>
22 : : #include <linux/compiler.h>
23 : : #include <linux/hash.h>
24 : : #include <linux/posix-clock.h>
25 : : #include <linux/posix-timers.h>
26 : : #include <linux/syscalls.h>
27 : : #include <linux/wait.h>
28 : : #include <linux/workqueue.h>
29 : : #include <linux/export.h>
30 : : #include <linux/hashtable.h>
31 : : #include <linux/compat.h>
32 : : #include <linux/nospec.h>
33 : : #include <linux/time_namespace.h>
34 : :
35 : : #include "timekeeping.h"
36 : : #include "posix-timers.h"
37 : :
38 : : /*
39 : : * Management arrays for POSIX timers. Timers are now kept in static hash table
40 : : * with 512 entries.
41 : : * Timer ids are allocated by local routine, which selects proper hash head by
42 : : * key, constructed from current->signal address and per signal struct counter.
43 : : * This keeps timer ids unique per process, but now they can intersect between
44 : : * processes.
45 : : */
46 : :
47 : : /*
48 : : * Lets keep our timers in a slab cache :-)
49 : : */
50 : : static struct kmem_cache *posix_timers_cache;
51 : :
52 : : static DEFINE_HASHTABLE(posix_timers_hashtable, 9);
53 : : static DEFINE_SPINLOCK(hash_lock);
54 : :
55 : : static const struct k_clock * const posix_clocks[];
56 : : static const struct k_clock *clockid_to_kclock(const clockid_t id);
57 : : static const struct k_clock clock_realtime, clock_monotonic;
58 : :
59 : : /*
60 : : * we assume that the new SIGEV_THREAD_ID shares no bits with the other
61 : : * SIGEV values. Here we put out an error if this assumption fails.
62 : : */
63 : : #if SIGEV_THREAD_ID != (SIGEV_THREAD_ID & \
64 : : ~(SIGEV_SIGNAL | SIGEV_NONE | SIGEV_THREAD))
65 : : #error "SIGEV_THREAD_ID must not share bit with other SIGEV values!"
66 : : #endif
67 : :
68 : : /*
69 : : * The timer ID is turned into a timer address by idr_find().
70 : : * Verifying a valid ID consists of:
71 : : *
72 : : * a) checking that idr_find() returns other than -1.
73 : : * b) checking that the timer id matches the one in the timer itself.
74 : : * c) that the timer owner is in the callers thread group.
75 : : */
76 : :
77 : : /*
78 : : * CLOCKs: The POSIX standard calls for a couple of clocks and allows us
79 : : * to implement others. This structure defines the various
80 : : * clocks.
81 : : *
82 : : * RESOLUTION: Clock resolution is used to round up timer and interval
83 : : * times, NOT to report clock times, which are reported with as
84 : : * much resolution as the system can muster. In some cases this
85 : : * resolution may depend on the underlying clock hardware and
86 : : * may not be quantifiable until run time, and only then is the
87 : : * necessary code is written. The standard says we should say
88 : : * something about this issue in the documentation...
89 : : *
90 : : * FUNCTIONS: The CLOCKs structure defines possible functions to
91 : : * handle various clock functions.
92 : : *
93 : : * The standard POSIX timer management code assumes the
94 : : * following: 1.) The k_itimer struct (sched.h) is used for
95 : : * the timer. 2.) The list, it_lock, it_clock, it_id and
96 : : * it_pid fields are not modified by timer code.
97 : : *
98 : : * Permissions: It is assumed that the clock_settime() function defined
99 : : * for each clock will take care of permission checks. Some
100 : : * clocks may be set able by any user (i.e. local process
101 : : * clocks) others not. Currently the only set able clock we
102 : : * have is CLOCK_REALTIME and its high res counter part, both of
103 : : * which we beg off on and pass to do_sys_settimeofday().
104 : : */
105 : : static struct k_itimer *__lock_timer(timer_t timer_id, unsigned long *flags);
106 : :
107 : : #define lock_timer(tid, flags) \
108 : : ({ struct k_itimer *__timr; \
109 : : __cond_lock(&__timr->it_lock, __timr = __lock_timer(tid, flags)); \
110 : : __timr; \
111 : : })
112 : :
113 : 0 : static int hash(struct signal_struct *sig, unsigned int nr)
114 : : {
115 : 0 : return hash_32(hash32_ptr(sig) ^ nr, HASH_BITS(posix_timers_hashtable));
116 : : }
117 : :
118 : 0 : static struct k_itimer *__posix_timers_find(struct hlist_head *head,
119 : : struct signal_struct *sig,
120 : : timer_t id)
121 : : {
122 : 0 : struct k_itimer *timer;
123 : :
124 [ # # # # : 0 : hlist_for_each_entry_rcu(timer, head, t_hash) {
# # # # ]
125 [ # # # # : 0 : if ((timer->it_signal == sig) && (timer->it_id == id))
# # # # ]
126 : : return timer;
127 : : }
128 : : return NULL;
129 : : }
130 : :
131 : 0 : static struct k_itimer *posix_timer_by_id(timer_t id)
132 : : {
133 [ # # ]: 0 : struct signal_struct *sig = current->signal;
134 [ # # ]: 0 : struct hlist_head *head = &posix_timers_hashtable[hash(sig, id)];
135 : :
136 [ # # ]: 0 : return __posix_timers_find(head, sig, id);
137 : : }
138 : :
139 : 0 : static int posix_timer_add(struct k_itimer *timer)
140 : : {
141 : 0 : struct signal_struct *sig = current->signal;
142 : 0 : int first_free_id = sig->posix_timer_id;
143 : 0 : struct hlist_head *head;
144 : 0 : int ret = -ENOENT;
145 : :
146 : 0 : do {
147 : 0 : spin_lock(&hash_lock);
148 [ # # ]: 0 : head = &posix_timers_hashtable[hash(sig, sig->posix_timer_id)];
149 [ # # # # ]: 0 : if (!__posix_timers_find(head, sig, sig->posix_timer_id)) {
150 : 0 : hlist_add_head_rcu(&timer->t_hash, head);
151 : 0 : ret = sig->posix_timer_id;
152 : : }
153 [ # # ]: 0 : if (++sig->posix_timer_id < 0)
154 : 0 : sig->posix_timer_id = 0;
155 [ # # # # ]: 0 : if ((sig->posix_timer_id == first_free_id) && (ret == -ENOENT))
156 : : /* Loop over all possible ids completed */
157 : 0 : ret = -EAGAIN;
158 : 0 : spin_unlock(&hash_lock);
159 [ # # ]: 0 : } while (ret == -ENOENT);
160 : 0 : return ret;
161 : : }
162 : :
163 : 0 : static inline void unlock_timer(struct k_itimer *timr, unsigned long flags)
164 : : {
165 : 0 : spin_unlock_irqrestore(&timr->it_lock, flags);
166 : : }
167 : :
168 : : /* Get clock_realtime */
169 : 0 : static int posix_get_realtime_timespec(clockid_t which_clock, struct timespec64 *tp)
170 : : {
171 : 0 : ktime_get_real_ts64(tp);
172 : 0 : return 0;
173 : : }
174 : :
175 : 0 : static ktime_t posix_get_realtime_ktime(clockid_t which_clock)
176 : : {
177 : 0 : return ktime_get_real();
178 : : }
179 : :
180 : : /* Set clock_realtime */
181 : 0 : static int posix_clock_realtime_set(const clockid_t which_clock,
182 : : const struct timespec64 *tp)
183 : : {
184 : 0 : return do_sys_settimeofday64(tp, NULL);
185 : : }
186 : :
187 : 0 : static int posix_clock_realtime_adj(const clockid_t which_clock,
188 : : struct __kernel_timex *t)
189 : : {
190 : 0 : return do_adjtimex(t);
191 : : }
192 : :
193 : : /*
194 : : * Get monotonic time for posix timers
195 : : */
196 : 0 : static int posix_get_monotonic_timespec(clockid_t which_clock, struct timespec64 *tp)
197 : : {
198 : 0 : ktime_get_ts64(tp);
199 : 0 : timens_add_monotonic(tp);
200 : 0 : return 0;
201 : : }
202 : :
203 : 0 : static ktime_t posix_get_monotonic_ktime(clockid_t which_clock)
204 : : {
205 : 0 : return ktime_get();
206 : : }
207 : :
208 : : /*
209 : : * Get monotonic-raw time for posix timers
210 : : */
211 : 0 : static int posix_get_monotonic_raw(clockid_t which_clock, struct timespec64 *tp)
212 : : {
213 : 0 : ktime_get_raw_ts64(tp);
214 : 0 : timens_add_monotonic(tp);
215 : 0 : return 0;
216 : : }
217 : :
218 : :
219 : 0 : static int posix_get_realtime_coarse(clockid_t which_clock, struct timespec64 *tp)
220 : : {
221 : 0 : ktime_get_coarse_real_ts64(tp);
222 : 0 : return 0;
223 : : }
224 : :
225 : 0 : static int posix_get_monotonic_coarse(clockid_t which_clock,
226 : : struct timespec64 *tp)
227 : : {
228 : 0 : ktime_get_coarse_ts64(tp);
229 : 0 : timens_add_monotonic(tp);
230 : 0 : return 0;
231 : : }
232 : :
233 : 0 : static int posix_get_coarse_res(const clockid_t which_clock, struct timespec64 *tp)
234 : : {
235 : 0 : *tp = ktime_to_timespec64(KTIME_LOW_RES);
236 : 0 : return 0;
237 : : }
238 : :
239 : 0 : static int posix_get_boottime_timespec(const clockid_t which_clock, struct timespec64 *tp)
240 : : {
241 : 0 : ktime_get_boottime_ts64(tp);
242 : 0 : timens_add_boottime(tp);
243 : 0 : return 0;
244 : : }
245 : :
246 : 0 : static ktime_t posix_get_boottime_ktime(const clockid_t which_clock)
247 : : {
248 : 0 : return ktime_get_boottime();
249 : : }
250 : :
251 : 0 : static int posix_get_tai_timespec(clockid_t which_clock, struct timespec64 *tp)
252 : : {
253 : 0 : ktime_get_clocktai_ts64(tp);
254 : 0 : return 0;
255 : : }
256 : :
257 : 0 : static ktime_t posix_get_tai_ktime(clockid_t which_clock)
258 : : {
259 : 0 : return ktime_get_clocktai();
260 : : }
261 : :
262 : 0 : static int posix_get_hrtimer_res(clockid_t which_clock, struct timespec64 *tp)
263 : : {
264 : 0 : tp->tv_sec = 0;
265 : 0 : tp->tv_nsec = hrtimer_resolution;
266 : 0 : return 0;
267 : : }
268 : :
269 : : /*
270 : : * Initialize everything, well, just everything in Posix clocks/timers ;)
271 : : */
272 : 21 : static __init int init_posix_timers(void)
273 : : {
274 : 21 : posix_timers_cache = kmem_cache_create("posix_timers_cache",
275 : : sizeof (struct k_itimer), 0, SLAB_PANIC,
276 : : NULL);
277 : 21 : return 0;
278 : : }
279 : : __initcall(init_posix_timers);
280 : :
281 : : /*
282 : : * The siginfo si_overrun field and the return value of timer_getoverrun(2)
283 : : * are of type int. Clamp the overrun value to INT_MAX
284 : : */
285 : 0 : static inline int timer_overrun_to_int(struct k_itimer *timr, int baseval)
286 : : {
287 : 0 : s64 sum = timr->it_overrun_last + (s64)baseval;
288 : :
289 : 0 : return sum > (s64)INT_MAX ? INT_MAX : (int)sum;
290 : : }
291 : :
292 : 0 : static void common_hrtimer_rearm(struct k_itimer *timr)
293 : : {
294 : 0 : struct hrtimer *timer = &timr->it.real.timer;
295 : :
296 : 0 : timr->it_overrun += hrtimer_forward(timer, timer->base->get_time(),
297 : : timr->it_interval);
298 : 0 : hrtimer_restart(timer);
299 : 0 : }
300 : :
301 : : /*
302 : : * This function is exported for use by the signal deliver code. It is
303 : : * called just prior to the info block being released and passes that
304 : : * block to us. It's function is to update the overrun entry AND to
305 : : * restart the timer. It should only be called if the timer is to be
306 : : * restarted (i.e. we have flagged this in the sys_private entry of the
307 : : * info block).
308 : : *
309 : : * To protect against the timer going away while the interrupt is queued,
310 : : * we require that the it_requeue_pending flag be set.
311 : : */
312 : 0 : void posixtimer_rearm(struct kernel_siginfo *info)
313 : : {
314 : 0 : struct k_itimer *timr;
315 : 0 : unsigned long flags;
316 : :
317 : 0 : timr = lock_timer(info->si_tid, &flags);
318 [ # # ]: 0 : if (!timr)
319 : 0 : return;
320 : :
321 [ # # # # ]: 0 : if (timr->it_interval && timr->it_requeue_pending == info->si_sys_private) {
322 : 0 : timr->kclock->timer_rearm(timr);
323 : :
324 : 0 : timr->it_active = 1;
325 : 0 : timr->it_overrun_last = timr->it_overrun;
326 : 0 : timr->it_overrun = -1LL;
327 : 0 : ++timr->it_requeue_pending;
328 : :
329 : 0 : info->si_overrun = timer_overrun_to_int(timr, info->si_overrun);
330 : : }
331 : :
332 : 0 : unlock_timer(timr, flags);
333 : : }
334 : :
335 : 0 : int posix_timer_event(struct k_itimer *timr, int si_private)
336 : : {
337 : 0 : enum pid_type type;
338 : 0 : int ret = -1;
339 : : /*
340 : : * FIXME: if ->sigq is queued we can race with
341 : : * dequeue_signal()->posixtimer_rearm().
342 : : *
343 : : * If dequeue_signal() sees the "right" value of
344 : : * si_sys_private it calls posixtimer_rearm().
345 : : * We re-queue ->sigq and drop ->it_lock().
346 : : * posixtimer_rearm() locks the timer
347 : : * and re-schedules it while ->sigq is pending.
348 : : * Not really bad, but not that we want.
349 : : */
350 : 0 : timr->sigq->info.si_sys_private = si_private;
351 : :
352 : 0 : type = !(timr->it_sigev_notify & SIGEV_THREAD_ID) ? PIDTYPE_TGID : PIDTYPE_PID;
353 : 0 : ret = send_sigqueue(timr->sigq, timr->it_pid, type);
354 : : /* If we failed to send the signal the timer stops. */
355 : 0 : return ret > 0;
356 : : }
357 : :
358 : : /*
359 : : * This function gets called when a POSIX.1b interval timer expires. It
360 : : * is used as a callback from the kernel internal timer. The
361 : : * run_timer_list code ALWAYS calls with interrupts on.
362 : :
363 : : * This code is for CLOCK_REALTIME* and CLOCK_MONOTONIC* timers.
364 : : */
365 : 0 : static enum hrtimer_restart posix_timer_fn(struct hrtimer *timer)
366 : : {
367 : 0 : struct k_itimer *timr;
368 : 0 : unsigned long flags;
369 : 0 : int si_private = 0;
370 : 0 : enum hrtimer_restart ret = HRTIMER_NORESTART;
371 : :
372 : 0 : timr = container_of(timer, struct k_itimer, it.real.timer);
373 : 0 : spin_lock_irqsave(&timr->it_lock, flags);
374 : :
375 : 0 : timr->it_active = 0;
376 [ # # ]: 0 : if (timr->it_interval != 0)
377 : 0 : si_private = ++timr->it_requeue_pending;
378 : :
379 [ # # ]: 0 : if (posix_timer_event(timr, si_private)) {
380 : : /*
381 : : * signal was not sent because of sig_ignor
382 : : * we will not get a call back to restart it AND
383 : : * it should be restarted.
384 : : */
385 [ # # ]: 0 : if (timr->it_interval != 0) {
386 : 0 : ktime_t now = hrtimer_cb_get_time(timer);
387 : :
388 : : /*
389 : : * FIXME: What we really want, is to stop this
390 : : * timer completely and restart it in case the
391 : : * SIG_IGN is removed. This is a non trivial
392 : : * change which involves sighand locking
393 : : * (sigh !), which we don't want to do late in
394 : : * the release cycle.
395 : : *
396 : : * For now we just let timers with an interval
397 : : * less than a jiffie expire every jiffie to
398 : : * avoid softirq starvation in case of SIG_IGN
399 : : * and a very small interval, which would put
400 : : * the timer right back on the softirq pending
401 : : * list. By moving now ahead of time we trick
402 : : * hrtimer_forward() to expire the timer
403 : : * later, while we still maintain the overrun
404 : : * accuracy, but have some inconsistency in
405 : : * the timer_gettime() case. This is at least
406 : : * better than a starved softirq. A more
407 : : * complex fix which solves also another related
408 : : * inconsistency is already in the pipeline.
409 : : */
410 : : #ifdef CONFIG_HIGH_RES_TIMERS
411 : : {
412 : 0 : ktime_t kj = NSEC_PER_SEC / HZ;
413 : :
414 [ # # ]: 0 : if (timr->it_interval < kj)
415 : 0 : now = ktime_add(now, kj);
416 : : }
417 : : #endif
418 : 0 : timr->it_overrun += hrtimer_forward(timer, now,
419 : : timr->it_interval);
420 : 0 : ret = HRTIMER_RESTART;
421 : 0 : ++timr->it_requeue_pending;
422 : 0 : timr->it_active = 1;
423 : : }
424 : : }
425 : :
426 : 0 : unlock_timer(timr, flags);
427 : 0 : return ret;
428 : : }
429 : :
430 : 0 : static struct pid *good_sigevent(sigevent_t * event)
431 : : {
432 [ # # # # ]: 0 : struct pid *pid = task_tgid(current);
433 : 0 : struct task_struct *rtn;
434 : :
435 [ # # # # ]: 0 : switch (event->sigev_notify) {
436 : 0 : case SIGEV_SIGNAL | SIGEV_THREAD_ID:
437 : 0 : pid = find_vpid(event->sigev_notify_thread_id);
438 : 0 : rtn = pid_task(pid, PIDTYPE_PID);
439 [ # # # # ]: 0 : if (!rtn || !same_thread_group(rtn, current))
440 : : return NULL;
441 : : /* FALLTHRU */
442 : : case SIGEV_SIGNAL:
443 : : case SIGEV_THREAD:
444 [ # # ]: 0 : if (event->sigev_signo <= 0 || event->sigev_signo > SIGRTMAX)
445 : 0 : return NULL;
446 : : /* FALLTHRU */
447 : : case SIGEV_NONE:
448 : : return pid;
449 : : default:
450 : : return NULL;
451 : : }
452 : : }
453 : :
454 : 0 : static struct k_itimer * alloc_posix_timer(void)
455 : : {
456 : 0 : struct k_itimer *tmr;
457 : 0 : tmr = kmem_cache_zalloc(posix_timers_cache, GFP_KERNEL);
458 [ # # ]: 0 : if (!tmr)
459 : : return tmr;
460 [ # # ]: 0 : if (unlikely(!(tmr->sigq = sigqueue_alloc()))) {
461 : 0 : kmem_cache_free(posix_timers_cache, tmr);
462 : 0 : return NULL;
463 : : }
464 : 0 : clear_siginfo(&tmr->sigq->info);
465 : 0 : return tmr;
466 : : }
467 : :
468 : 0 : static void k_itimer_rcu_free(struct rcu_head *head)
469 : : {
470 : 0 : struct k_itimer *tmr = container_of(head, struct k_itimer, rcu);
471 : :
472 : 0 : kmem_cache_free(posix_timers_cache, tmr);
473 : 0 : }
474 : :
475 : : #define IT_ID_SET 1
476 : : #define IT_ID_NOT_SET 0
477 : 0 : static void release_posix_timer(struct k_itimer *tmr, int it_id_set)
478 : : {
479 [ # # ]: 0 : if (it_id_set) {
480 : 0 : unsigned long flags;
481 : 0 : spin_lock_irqsave(&hash_lock, flags);
482 [ # # ]: 0 : hlist_del_rcu(&tmr->t_hash);
483 : 0 : spin_unlock_irqrestore(&hash_lock, flags);
484 : : }
485 : 0 : put_pid(tmr->it_pid);
486 : 0 : sigqueue_free(tmr->sigq);
487 : 0 : call_rcu(&tmr->rcu, k_itimer_rcu_free);
488 : 0 : }
489 : :
490 : 0 : static int common_timer_create(struct k_itimer *new_timer)
491 : : {
492 : 0 : hrtimer_init(&new_timer->it.real.timer, new_timer->it_clock, 0);
493 : 0 : return 0;
494 : : }
495 : :
496 : : /* Create a POSIX.1b interval timer. */
497 : 0 : static int do_timer_create(clockid_t which_clock, struct sigevent *event,
498 : : timer_t __user *created_timer_id)
499 : : {
500 : 0 : const struct k_clock *kc = clockid_to_kclock(which_clock);
501 : 0 : struct k_itimer *new_timer;
502 : 0 : int error, new_timer_id;
503 : 0 : int it_id_set = IT_ID_NOT_SET;
504 : :
505 [ # # ]: 0 : if (!kc)
506 : : return -EINVAL;
507 [ # # ]: 0 : if (!kc->timer_create)
508 : : return -EOPNOTSUPP;
509 : :
510 : 0 : new_timer = alloc_posix_timer();
511 [ # # ]: 0 : if (unlikely(!new_timer))
512 : : return -EAGAIN;
513 : :
514 : 0 : spin_lock_init(&new_timer->it_lock);
515 : 0 : new_timer_id = posix_timer_add(new_timer);
516 [ # # ]: 0 : if (new_timer_id < 0) {
517 : 0 : error = new_timer_id;
518 : 0 : goto out;
519 : : }
520 : :
521 : 0 : it_id_set = IT_ID_SET;
522 : 0 : new_timer->it_id = (timer_t) new_timer_id;
523 : 0 : new_timer->it_clock = which_clock;
524 : 0 : new_timer->kclock = kc;
525 : 0 : new_timer->it_overrun = -1LL;
526 : :
527 [ # # ]: 0 : if (event) {
528 : 0 : rcu_read_lock();
529 : 0 : new_timer->it_pid = get_pid(good_sigevent(event));
530 : 0 : rcu_read_unlock();
531 [ # # ]: 0 : if (!new_timer->it_pid) {
532 : 0 : error = -EINVAL;
533 : 0 : goto out;
534 : : }
535 : 0 : new_timer->it_sigev_notify = event->sigev_notify;
536 : 0 : new_timer->sigq->info.si_signo = event->sigev_signo;
537 : 0 : new_timer->sigq->info.si_value = event->sigev_value;
538 : : } else {
539 : 0 : new_timer->it_sigev_notify = SIGEV_SIGNAL;
540 : 0 : new_timer->sigq->info.si_signo = SIGALRM;
541 : 0 : memset(&new_timer->sigq->info.si_value, 0, sizeof(sigval_t));
542 : 0 : new_timer->sigq->info.si_value.sival_int = new_timer->it_id;
543 [ # # ]: 0 : new_timer->it_pid = get_pid(task_tgid(current));
544 : : }
545 : :
546 : 0 : new_timer->sigq->info.si_tid = new_timer->it_id;
547 : 0 : new_timer->sigq->info.si_code = SI_TIMER;
548 : :
549 [ # # ]: 0 : if (copy_to_user(created_timer_id,
550 : : &new_timer_id, sizeof (new_timer_id))) {
551 : 0 : error = -EFAULT;
552 : 0 : goto out;
553 : : }
554 : :
555 : 0 : error = kc->timer_create(new_timer);
556 [ # # ]: 0 : if (error)
557 : 0 : goto out;
558 : :
559 : 0 : spin_lock_irq(¤t->sighand->siglock);
560 : 0 : new_timer->it_signal = current->signal;
561 : 0 : list_add(&new_timer->list, ¤t->signal->posix_timers);
562 : 0 : spin_unlock_irq(¤t->sighand->siglock);
563 : :
564 : 0 : return 0;
565 : : /*
566 : : * In the case of the timer belonging to another task, after
567 : : * the task is unlocked, the timer is owned by the other task
568 : : * and may cease to exist at any time. Don't use or modify
569 : : * new_timer after the unlock call.
570 : : */
571 : 0 : out:
572 : 0 : release_posix_timer(new_timer, it_id_set);
573 : 0 : return error;
574 : : }
575 : :
576 : 0 : SYSCALL_DEFINE3(timer_create, const clockid_t, which_clock,
577 : : struct sigevent __user *, timer_event_spec,
578 : : timer_t __user *, created_timer_id)
579 : : {
580 [ # # ]: 0 : if (timer_event_spec) {
581 : 0 : sigevent_t event;
582 : :
583 [ # # ]: 0 : if (copy_from_user(&event, timer_event_spec, sizeof (event)))
584 : : return -EFAULT;
585 : 0 : return do_timer_create(which_clock, &event, created_timer_id);
586 : : }
587 : 0 : return do_timer_create(which_clock, NULL, created_timer_id);
588 : : }
589 : :
590 : : #ifdef CONFIG_COMPAT
591 : 0 : COMPAT_SYSCALL_DEFINE3(timer_create, clockid_t, which_clock,
592 : : struct compat_sigevent __user *, timer_event_spec,
593 : : timer_t __user *, created_timer_id)
594 : : {
595 [ # # ]: 0 : if (timer_event_spec) {
596 : 0 : sigevent_t event;
597 : :
598 [ # # ]: 0 : if (get_compat_sigevent(&event, timer_event_spec))
599 : : return -EFAULT;
600 : 0 : return do_timer_create(which_clock, &event, created_timer_id);
601 : : }
602 : 0 : return do_timer_create(which_clock, NULL, created_timer_id);
603 : : }
604 : : #endif
605 : :
606 : : /*
607 : : * Locking issues: We need to protect the result of the id look up until
608 : : * we get the timer locked down so it is not deleted under us. The
609 : : * removal is done under the idr spinlock so we use that here to bridge
610 : : * the find to the timer lock. To avoid a dead lock, the timer id MUST
611 : : * be release with out holding the timer lock.
612 : : */
613 : 0 : static struct k_itimer *__lock_timer(timer_t timer_id, unsigned long *flags)
614 : : {
615 : 0 : struct k_itimer *timr;
616 : :
617 : : /*
618 : : * timer_t could be any type >= int and we want to make sure any
619 : : * @timer_id outside positive int range fails lookup.
620 : : */
621 [ # # ]: 0 : if ((unsigned long long)timer_id > INT_MAX)
622 : : return NULL;
623 : :
624 : 0 : rcu_read_lock();
625 : 0 : timr = posix_timer_by_id(timer_id);
626 [ # # ]: 0 : if (timr) {
627 : 0 : spin_lock_irqsave(&timr->it_lock, *flags);
628 [ # # ]: 0 : if (timr->it_signal == current->signal) {
629 : 0 : rcu_read_unlock();
630 : 0 : return timr;
631 : : }
632 : 0 : spin_unlock_irqrestore(&timr->it_lock, *flags);
633 : : }
634 : 0 : rcu_read_unlock();
635 : :
636 : 0 : return NULL;
637 : : }
638 : :
639 : 0 : static ktime_t common_hrtimer_remaining(struct k_itimer *timr, ktime_t now)
640 : : {
641 : 0 : struct hrtimer *timer = &timr->it.real.timer;
642 : :
643 : 0 : return __hrtimer_expires_remaining_adjusted(timer, now);
644 : : }
645 : :
646 : 0 : static s64 common_hrtimer_forward(struct k_itimer *timr, ktime_t now)
647 : : {
648 : 0 : struct hrtimer *timer = &timr->it.real.timer;
649 : :
650 : 0 : return hrtimer_forward(timer, now, timr->it_interval);
651 : : }
652 : :
653 : : /*
654 : : * Get the time remaining on a POSIX.1b interval timer. This function
655 : : * is ALWAYS called with spin_lock_irq on the timer, thus it must not
656 : : * mess with irq.
657 : : *
658 : : * We have a couple of messes to clean up here. First there is the case
659 : : * of a timer that has a requeue pending. These timers should appear to
660 : : * be in the timer list with an expiry as if we were to requeue them
661 : : * now.
662 : : *
663 : : * The second issue is the SIGEV_NONE timer which may be active but is
664 : : * not really ever put in the timer list (to save system resources).
665 : : * This timer may be expired, and if so, we will do it here. Otherwise
666 : : * it is the same as a requeue pending timer WRT to what we should
667 : : * report.
668 : : */
669 : 0 : void common_timer_get(struct k_itimer *timr, struct itimerspec64 *cur_setting)
670 : : {
671 : 0 : const struct k_clock *kc = timr->kclock;
672 : 0 : ktime_t now, remaining, iv;
673 : 0 : bool sig_none;
674 : :
675 : 0 : sig_none = timr->it_sigev_notify == SIGEV_NONE;
676 : 0 : iv = timr->it_interval;
677 : :
678 : : /* interval timer ? */
679 [ # # ]: 0 : if (iv) {
680 : 0 : cur_setting->it_interval = ktime_to_timespec64(iv);
681 [ # # ]: 0 : } else if (!timr->it_active) {
682 : : /*
683 : : * SIGEV_NONE oneshot timers are never queued. Check them
684 : : * below.
685 : : */
686 [ # # ]: 0 : if (!sig_none)
687 : : return;
688 : : }
689 : :
690 : 0 : now = kc->clock_get_ktime(timr->it_clock);
691 : :
692 : : /*
693 : : * When a requeue is pending or this is a SIGEV_NONE timer move the
694 : : * expiry time forward by intervals, so expiry is > now.
695 : : */
696 [ # # # # : 0 : if (iv && (timr->it_requeue_pending & REQUEUE_PENDING || sig_none))
# # ]
697 : 0 : timr->it_overrun += kc->timer_forward(timr, now);
698 : :
699 : 0 : remaining = kc->timer_remaining(timr, now);
700 : : /* Return 0 only, when the timer is expired and not pending */
701 [ # # ]: 0 : if (remaining <= 0) {
702 : : /*
703 : : * A single shot SIGEV_NONE timer must return 0, when
704 : : * it is expired !
705 : : */
706 [ # # ]: 0 : if (!sig_none)
707 : 0 : cur_setting->it_value.tv_nsec = 1;
708 : : } else {
709 : 0 : cur_setting->it_value = ktime_to_timespec64(remaining);
710 : : }
711 : : }
712 : :
713 : : /* Get the time remaining on a POSIX.1b interval timer. */
714 : 0 : static int do_timer_gettime(timer_t timer_id, struct itimerspec64 *setting)
715 : : {
716 : 0 : struct k_itimer *timr;
717 : 0 : const struct k_clock *kc;
718 : 0 : unsigned long flags;
719 : 0 : int ret = 0;
720 : :
721 : 0 : timr = lock_timer(timer_id, &flags);
722 [ # # ]: 0 : if (!timr)
723 : : return -EINVAL;
724 : :
725 : 0 : memset(setting, 0, sizeof(*setting));
726 : 0 : kc = timr->kclock;
727 [ # # # # : 0 : if (WARN_ON_ONCE(!kc || !kc->timer_get))
# # # # ]
728 : : ret = -EINVAL;
729 : : else
730 : 0 : kc->timer_get(timr, setting);
731 : :
732 : 0 : unlock_timer(timr, flags);
733 : 0 : return ret;
734 : : }
735 : :
736 : : /* Get the time remaining on a POSIX.1b interval timer. */
737 : 0 : SYSCALL_DEFINE2(timer_gettime, timer_t, timer_id,
738 : : struct __kernel_itimerspec __user *, setting)
739 : : {
740 : 0 : struct itimerspec64 cur_setting;
741 : :
742 : 0 : int ret = do_timer_gettime(timer_id, &cur_setting);
743 [ # # ]: 0 : if (!ret) {
744 [ # # ]: 0 : if (put_itimerspec64(&cur_setting, setting))
745 : 0 : ret = -EFAULT;
746 : : }
747 : 0 : return ret;
748 : : }
749 : :
750 : : #ifdef CONFIG_COMPAT_32BIT_TIME
751 : :
752 : 0 : SYSCALL_DEFINE2(timer_gettime32, timer_t, timer_id,
753 : : struct old_itimerspec32 __user *, setting)
754 : : {
755 : 0 : struct itimerspec64 cur_setting;
756 : :
757 : 0 : int ret = do_timer_gettime(timer_id, &cur_setting);
758 [ # # ]: 0 : if (!ret) {
759 [ # # ]: 0 : if (put_old_itimerspec32(&cur_setting, setting))
760 : 0 : ret = -EFAULT;
761 : : }
762 : 0 : return ret;
763 : : }
764 : :
765 : : #endif
766 : :
767 : : /*
768 : : * Get the number of overruns of a POSIX.1b interval timer. This is to
769 : : * be the overrun of the timer last delivered. At the same time we are
770 : : * accumulating overruns on the next timer. The overrun is frozen when
771 : : * the signal is delivered, either at the notify time (if the info block
772 : : * is not queued) or at the actual delivery time (as we are informed by
773 : : * the call back to posixtimer_rearm(). So all we need to do is
774 : : * to pick up the frozen overrun.
775 : : */
776 : 0 : SYSCALL_DEFINE1(timer_getoverrun, timer_t, timer_id)
777 : : {
778 : 0 : struct k_itimer *timr;
779 : 0 : int overrun;
780 : 0 : unsigned long flags;
781 : :
782 : 0 : timr = lock_timer(timer_id, &flags);
783 [ # # ]: 0 : if (!timr)
784 : : return -EINVAL;
785 : :
786 : 0 : overrun = timer_overrun_to_int(timr, 0);
787 : 0 : unlock_timer(timr, flags);
788 : :
789 : 0 : return overrun;
790 : : }
791 : :
792 : 0 : static void common_hrtimer_arm(struct k_itimer *timr, ktime_t expires,
793 : : bool absolute, bool sigev_none)
794 : : {
795 : 0 : struct hrtimer *timer = &timr->it.real.timer;
796 : 0 : enum hrtimer_mode mode;
797 : :
798 : 0 : mode = absolute ? HRTIMER_MODE_ABS : HRTIMER_MODE_REL;
799 : : /*
800 : : * Posix magic: Relative CLOCK_REALTIME timers are not affected by
801 : : * clock modifications, so they become CLOCK_MONOTONIC based under the
802 : : * hood. See hrtimer_init(). Update timr->kclock, so the generic
803 : : * functions which use timr->kclock->clock_get_*() work.
804 : : *
805 : : * Note: it_clock stays unmodified, because the next timer_set() might
806 : : * use ABSTIME, so it needs to switch back.
807 : : */
808 [ # # ]: 0 : if (timr->it_clock == CLOCK_REALTIME)
809 [ # # ]: 0 : timr->kclock = absolute ? &clock_realtime : &clock_monotonic;
810 : :
811 : 0 : hrtimer_init(&timr->it.real.timer, timr->it_clock, mode);
812 : 0 : timr->it.real.timer.function = posix_timer_fn;
813 : :
814 [ # # ]: 0 : if (!absolute)
815 : 0 : expires = ktime_add_safe(expires, timer->base->get_time());
816 [ # # ]: 0 : hrtimer_set_expires(timer, expires);
817 : :
818 [ # # ]: 0 : if (!sigev_none)
819 : 0 : hrtimer_start_expires(timer, HRTIMER_MODE_ABS);
820 : 0 : }
821 : :
822 : 0 : static int common_hrtimer_try_to_cancel(struct k_itimer *timr)
823 : : {
824 : 0 : return hrtimer_try_to_cancel(&timr->it.real.timer);
825 : : }
826 : :
827 : 0 : static void common_timer_wait_running(struct k_itimer *timer)
828 : : {
829 : 0 : hrtimer_cancel_wait_running(&timer->it.real.timer);
830 : 0 : }
831 : :
832 : : /*
833 : : * On PREEMPT_RT this prevent priority inversion against softirq kthread in
834 : : * case it gets preempted while executing a timer callback. See comments in
835 : : * hrtimer_cancel_wait_running. For PREEMPT_RT=n this just results in a
836 : : * cpu_relax().
837 : : */
838 : 0 : static struct k_itimer *timer_wait_running(struct k_itimer *timer,
839 : : unsigned long *flags)
840 : : {
841 : 0 : const struct k_clock *kc = READ_ONCE(timer->kclock);
842 : 0 : timer_t timer_id = READ_ONCE(timer->it_id);
843 : :
844 : : /* Prevent kfree(timer) after dropping the lock */
845 : 0 : rcu_read_lock();
846 : 0 : unlock_timer(timer, *flags);
847 : :
848 [ # # # # ]: 0 : if (!WARN_ON_ONCE(!kc->timer_wait_running))
849 : 0 : kc->timer_wait_running(timer);
850 : :
851 : 0 : rcu_read_unlock();
852 : : /* Relock the timer. It might be not longer hashed. */
853 : 0 : return lock_timer(timer_id, flags);
854 : : }
855 : :
856 : : /* Set a POSIX.1b interval timer. */
857 : 0 : int common_timer_set(struct k_itimer *timr, int flags,
858 : : struct itimerspec64 *new_setting,
859 : : struct itimerspec64 *old_setting)
860 : : {
861 : 0 : const struct k_clock *kc = timr->kclock;
862 : 0 : bool sigev_none;
863 : 0 : ktime_t expires;
864 : :
865 [ # # ]: 0 : if (old_setting)
866 : 0 : common_timer_get(timr, old_setting);
867 : :
868 : : /* Prevent rearming by clearing the interval */
869 : 0 : timr->it_interval = 0;
870 : : /*
871 : : * Careful here. On SMP systems the timer expiry function could be
872 : : * active and spinning on timr->it_lock.
873 : : */
874 [ # # ]: 0 : if (kc->timer_try_to_cancel(timr) < 0)
875 : : return TIMER_RETRY;
876 : :
877 : 0 : timr->it_active = 0;
878 : 0 : timr->it_requeue_pending = (timr->it_requeue_pending + 2) &
879 : : ~REQUEUE_PENDING;
880 : 0 : timr->it_overrun_last = 0;
881 : :
882 : : /* Switch off the timer when it_value is zero */
883 [ # # # # ]: 0 : if (!new_setting->it_value.tv_sec && !new_setting->it_value.tv_nsec)
884 : : return 0;
885 : :
886 [ # # ]: 0 : timr->it_interval = timespec64_to_ktime(new_setting->it_interval);
887 [ # # ]: 0 : expires = timespec64_to_ktime(new_setting->it_value);
888 [ # # ]: 0 : if (flags & TIMER_ABSTIME)
889 [ # # ]: 0 : expires = timens_ktime_to_host(timr->it_clock, expires);
890 : 0 : sigev_none = timr->it_sigev_notify == SIGEV_NONE;
891 : :
892 : 0 : kc->timer_arm(timr, expires, flags & TIMER_ABSTIME, sigev_none);
893 : 0 : timr->it_active = !sigev_none;
894 : 0 : return 0;
895 : : }
896 : :
897 : 0 : static int do_timer_settime(timer_t timer_id, int tmr_flags,
898 : : struct itimerspec64 *new_spec64,
899 : : struct itimerspec64 *old_spec64)
900 : : {
901 : 0 : const struct k_clock *kc;
902 : 0 : struct k_itimer *timr;
903 : 0 : unsigned long flags;
904 : 0 : int error = 0;
905 : :
906 [ # # ]: 0 : if (!timespec64_valid(&new_spec64->it_interval) ||
907 [ # # ]: 0 : !timespec64_valid(&new_spec64->it_value))
908 : : return -EINVAL;
909 : :
910 [ # # ]: 0 : if (old_spec64)
911 : 0 : memset(old_spec64, 0, sizeof(*old_spec64));
912 : :
913 : 0 : timr = lock_timer(timer_id, &flags);
914 : 0 : retry:
915 [ # # ]: 0 : if (!timr)
916 : : return -EINVAL;
917 : :
918 : 0 : kc = timr->kclock;
919 [ # # # # : 0 : if (WARN_ON_ONCE(!kc || !kc->timer_set))
# # # # ]
920 : : error = -EINVAL;
921 : : else
922 : 0 : error = kc->timer_set(timr, tmr_flags, new_spec64, old_spec64);
923 : :
924 [ # # ]: 0 : if (error == TIMER_RETRY) {
925 : : // We already got the old time...
926 : 0 : old_spec64 = NULL;
927 : : /* Unlocks and relocks the timer if it still exists */
928 : 0 : timr = timer_wait_running(timr, &flags);
929 : 0 : goto retry;
930 : : }
931 : 0 : unlock_timer(timr, flags);
932 : :
933 : 0 : return error;
934 : : }
935 : :
936 : : /* Set a POSIX.1b interval timer */
937 : 0 : SYSCALL_DEFINE4(timer_settime, timer_t, timer_id, int, flags,
938 : : const struct __kernel_itimerspec __user *, new_setting,
939 : : struct __kernel_itimerspec __user *, old_setting)
940 : : {
941 : 0 : struct itimerspec64 new_spec, old_spec;
942 [ # # ]: 0 : struct itimerspec64 *rtn = old_setting ? &old_spec : NULL;
943 : 0 : int error = 0;
944 : :
945 [ # # ]: 0 : if (!new_setting)
946 : : return -EINVAL;
947 : :
948 [ # # ]: 0 : if (get_itimerspec64(&new_spec, new_setting))
949 : : return -EFAULT;
950 : :
951 : 0 : error = do_timer_settime(timer_id, flags, &new_spec, rtn);
952 [ # # ]: 0 : if (!error && old_setting) {
953 [ # # ]: 0 : if (put_itimerspec64(&old_spec, old_setting))
954 : 0 : error = -EFAULT;
955 : : }
956 : 0 : return error;
957 : : }
958 : :
959 : : #ifdef CONFIG_COMPAT_32BIT_TIME
960 : 0 : SYSCALL_DEFINE4(timer_settime32, timer_t, timer_id, int, flags,
961 : : struct old_itimerspec32 __user *, new,
962 : : struct old_itimerspec32 __user *, old)
963 : : {
964 : 0 : struct itimerspec64 new_spec, old_spec;
965 [ # # ]: 0 : struct itimerspec64 *rtn = old ? &old_spec : NULL;
966 : 0 : int error = 0;
967 : :
968 [ # # ]: 0 : if (!new)
969 : : return -EINVAL;
970 [ # # ]: 0 : if (get_old_itimerspec32(&new_spec, new))
971 : : return -EFAULT;
972 : :
973 : 0 : error = do_timer_settime(timer_id, flags, &new_spec, rtn);
974 [ # # ]: 0 : if (!error && old) {
975 [ # # ]: 0 : if (put_old_itimerspec32(&old_spec, old))
976 : 0 : error = -EFAULT;
977 : : }
978 : 0 : return error;
979 : : }
980 : : #endif
981 : :
982 : 0 : int common_timer_del(struct k_itimer *timer)
983 : : {
984 : 0 : const struct k_clock *kc = timer->kclock;
985 : :
986 : 0 : timer->it_interval = 0;
987 [ # # ]: 0 : if (kc->timer_try_to_cancel(timer) < 0)
988 : : return TIMER_RETRY;
989 : 0 : timer->it_active = 0;
990 : 0 : return 0;
991 : : }
992 : :
993 : 0 : static inline int timer_delete_hook(struct k_itimer *timer)
994 : : {
995 : 0 : const struct k_clock *kc = timer->kclock;
996 : :
997 [ # # # # : 0 : if (WARN_ON_ONCE(!kc || !kc->timer_del))
# # # # ]
998 : : return -EINVAL;
999 : 0 : return kc->timer_del(timer);
1000 : : }
1001 : :
1002 : : /* Delete a POSIX.1b interval timer. */
1003 : 0 : SYSCALL_DEFINE1(timer_delete, timer_t, timer_id)
1004 : : {
1005 : 0 : struct k_itimer *timer;
1006 : 0 : unsigned long flags;
1007 : :
1008 : 0 : timer = lock_timer(timer_id, &flags);
1009 : :
1010 : 0 : retry_delete:
1011 [ # # ]: 0 : if (!timer)
1012 : : return -EINVAL;
1013 : :
1014 [ # # ]: 0 : if (unlikely(timer_delete_hook(timer) == TIMER_RETRY)) {
1015 : : /* Unlocks and relocks the timer if it still exists */
1016 : 0 : timer = timer_wait_running(timer, &flags);
1017 : 0 : goto retry_delete;
1018 : : }
1019 : :
1020 : 0 : spin_lock(¤t->sighand->siglock);
1021 : 0 : list_del(&timer->list);
1022 : 0 : spin_unlock(¤t->sighand->siglock);
1023 : : /*
1024 : : * This keeps any tasks waiting on the spin lock from thinking
1025 : : * they got something (see the lock code above).
1026 : : */
1027 : 0 : timer->it_signal = NULL;
1028 : :
1029 : 0 : unlock_timer(timer, flags);
1030 : 0 : release_posix_timer(timer, IT_ID_SET);
1031 : 0 : return 0;
1032 : : }
1033 : :
1034 : : /*
1035 : : * return timer owned by the process, used by exit_itimers
1036 : : */
1037 : 0 : static void itimer_delete(struct k_itimer *timer)
1038 : : {
1039 : 0 : retry_delete:
1040 : 0 : spin_lock_irq(&timer->it_lock);
1041 : :
1042 [ # # ]: 0 : if (timer_delete_hook(timer) == TIMER_RETRY) {
1043 : 0 : spin_unlock_irq(&timer->it_lock);
1044 : 0 : goto retry_delete;
1045 : : }
1046 : 0 : list_del(&timer->list);
1047 : :
1048 : 0 : spin_unlock_irq(&timer->it_lock);
1049 : 0 : release_posix_timer(timer, IT_ID_SET);
1050 : 0 : }
1051 : :
1052 : : /*
1053 : : * This is called by do_exit or de_thread, only when there are no more
1054 : : * references to the shared signal_struct.
1055 : : */
1056 : 27111 : void exit_itimers(struct signal_struct *sig)
1057 : : {
1058 : 27111 : struct k_itimer *tmr;
1059 : :
1060 [ - + ]: 27111 : while (!list_empty(&sig->posix_timers)) {
1061 : 0 : tmr = list_entry(sig->posix_timers.next, struct k_itimer, list);
1062 : 0 : itimer_delete(tmr);
1063 : : }
1064 : 27111 : }
1065 : :
1066 : 0 : SYSCALL_DEFINE2(clock_settime, const clockid_t, which_clock,
1067 : : const struct __kernel_timespec __user *, tp)
1068 : : {
1069 : 0 : const struct k_clock *kc = clockid_to_kclock(which_clock);
1070 : 0 : struct timespec64 new_tp;
1071 : :
1072 [ # # # # ]: 0 : if (!kc || !kc->clock_set)
1073 : : return -EINVAL;
1074 : :
1075 [ # # ]: 0 : if (get_timespec64(&new_tp, tp))
1076 : : return -EFAULT;
1077 : :
1078 : 0 : return kc->clock_set(which_clock, &new_tp);
1079 : : }
1080 : :
1081 : 0 : SYSCALL_DEFINE2(clock_gettime, const clockid_t, which_clock,
1082 : : struct __kernel_timespec __user *, tp)
1083 : : {
1084 : 0 : const struct k_clock *kc = clockid_to_kclock(which_clock);
1085 : 0 : struct timespec64 kernel_tp;
1086 : 0 : int error;
1087 : :
1088 [ # # ]: 0 : if (!kc)
1089 : : return -EINVAL;
1090 : :
1091 : 0 : error = kc->clock_get_timespec(which_clock, &kernel_tp);
1092 : :
1093 [ # # # # ]: 0 : if (!error && put_timespec64(&kernel_tp, tp))
1094 : 0 : error = -EFAULT;
1095 : :
1096 : 0 : return error;
1097 : : }
1098 : :
1099 : 0 : int do_clock_adjtime(const clockid_t which_clock, struct __kernel_timex * ktx)
1100 : : {
1101 : 0 : const struct k_clock *kc = clockid_to_kclock(which_clock);
1102 : :
1103 [ # # ]: 0 : if (!kc)
1104 : : return -EINVAL;
1105 [ # # ]: 0 : if (!kc->clock_adj)
1106 : : return -EOPNOTSUPP;
1107 : :
1108 : 0 : return kc->clock_adj(which_clock, ktx);
1109 : : }
1110 : :
1111 : 0 : SYSCALL_DEFINE2(clock_adjtime, const clockid_t, which_clock,
1112 : : struct __kernel_timex __user *, utx)
1113 : : {
1114 : 0 : struct __kernel_timex ktx;
1115 : 0 : int err;
1116 : :
1117 [ # # ]: 0 : if (copy_from_user(&ktx, utx, sizeof(ktx)))
1118 : : return -EFAULT;
1119 : :
1120 : 0 : err = do_clock_adjtime(which_clock, &ktx);
1121 : :
1122 [ # # # # ]: 0 : if (err >= 0 && copy_to_user(utx, &ktx, sizeof(ktx)))
1123 : : return -EFAULT;
1124 : :
1125 : 0 : return err;
1126 : : }
1127 : :
1128 : 0 : SYSCALL_DEFINE2(clock_getres, const clockid_t, which_clock,
1129 : : struct __kernel_timespec __user *, tp)
1130 : : {
1131 : 0 : const struct k_clock *kc = clockid_to_kclock(which_clock);
1132 : 0 : struct timespec64 rtn_tp;
1133 : 0 : int error;
1134 : :
1135 [ # # ]: 0 : if (!kc)
1136 : : return -EINVAL;
1137 : :
1138 : 0 : error = kc->clock_getres(which_clock, &rtn_tp);
1139 : :
1140 [ # # # # ]: 0 : if (!error && tp && put_timespec64(&rtn_tp, tp))
1141 : 0 : error = -EFAULT;
1142 : :
1143 : 0 : return error;
1144 : : }
1145 : :
1146 : : #ifdef CONFIG_COMPAT_32BIT_TIME
1147 : :
1148 : 0 : SYSCALL_DEFINE2(clock_settime32, clockid_t, which_clock,
1149 : : struct old_timespec32 __user *, tp)
1150 : : {
1151 : 0 : const struct k_clock *kc = clockid_to_kclock(which_clock);
1152 : 0 : struct timespec64 ts;
1153 : :
1154 [ # # # # ]: 0 : if (!kc || !kc->clock_set)
1155 : : return -EINVAL;
1156 : :
1157 [ # # ]: 0 : if (get_old_timespec32(&ts, tp))
1158 : : return -EFAULT;
1159 : :
1160 : 0 : return kc->clock_set(which_clock, &ts);
1161 : : }
1162 : :
1163 : 0 : SYSCALL_DEFINE2(clock_gettime32, clockid_t, which_clock,
1164 : : struct old_timespec32 __user *, tp)
1165 : : {
1166 : 0 : const struct k_clock *kc = clockid_to_kclock(which_clock);
1167 : 0 : struct timespec64 ts;
1168 : 0 : int err;
1169 : :
1170 [ # # ]: 0 : if (!kc)
1171 : : return -EINVAL;
1172 : :
1173 : 0 : err = kc->clock_get_timespec(which_clock, &ts);
1174 : :
1175 [ # # # # ]: 0 : if (!err && put_old_timespec32(&ts, tp))
1176 : 0 : err = -EFAULT;
1177 : :
1178 : 0 : return err;
1179 : : }
1180 : :
1181 : 0 : SYSCALL_DEFINE2(clock_adjtime32, clockid_t, which_clock,
1182 : : struct old_timex32 __user *, utp)
1183 : : {
1184 : 0 : struct __kernel_timex ktx;
1185 : 0 : int err;
1186 : :
1187 : 0 : err = get_old_timex32(&ktx, utp);
1188 [ # # ]: 0 : if (err)
1189 : 0 : return err;
1190 : :
1191 : 0 : err = do_clock_adjtime(which_clock, &ktx);
1192 : :
1193 [ # # ]: 0 : if (err >= 0)
1194 : 0 : err = put_old_timex32(utp, &ktx);
1195 : :
1196 : 0 : return err;
1197 : : }
1198 : :
1199 : 0 : SYSCALL_DEFINE2(clock_getres_time32, clockid_t, which_clock,
1200 : : struct old_timespec32 __user *, tp)
1201 : : {
1202 : 0 : const struct k_clock *kc = clockid_to_kclock(which_clock);
1203 : 0 : struct timespec64 ts;
1204 : 0 : int err;
1205 : :
1206 [ # # ]: 0 : if (!kc)
1207 : : return -EINVAL;
1208 : :
1209 : 0 : err = kc->clock_getres(which_clock, &ts);
1210 [ # # # # ]: 0 : if (!err && tp && put_old_timespec32(&ts, tp))
1211 : : return -EFAULT;
1212 : :
1213 : 0 : return err;
1214 : : }
1215 : :
1216 : : #endif
1217 : :
1218 : : /*
1219 : : * nanosleep for monotonic and realtime clocks
1220 : : */
1221 : 0 : static int common_nsleep(const clockid_t which_clock, int flags,
1222 : : const struct timespec64 *rqtp)
1223 : : {
1224 [ # # ]: 0 : ktime_t texp = timespec64_to_ktime(*rqtp);
1225 : :
1226 : 0 : return hrtimer_nanosleep(texp, flags & TIMER_ABSTIME ?
1227 : : HRTIMER_MODE_ABS : HRTIMER_MODE_REL,
1228 : : which_clock);
1229 : : }
1230 : :
1231 : 0 : static int common_nsleep_timens(const clockid_t which_clock, int flags,
1232 : : const struct timespec64 *rqtp)
1233 : : {
1234 [ # # ]: 0 : ktime_t texp = timespec64_to_ktime(*rqtp);
1235 : :
1236 [ # # ]: 0 : if (flags & TIMER_ABSTIME)
1237 [ # # ]: 0 : texp = timens_ktime_to_host(which_clock, texp);
1238 : :
1239 : 0 : return hrtimer_nanosleep(texp, flags & TIMER_ABSTIME ?
1240 : : HRTIMER_MODE_ABS : HRTIMER_MODE_REL,
1241 : : which_clock);
1242 : : }
1243 : :
1244 : 0 : SYSCALL_DEFINE4(clock_nanosleep, const clockid_t, which_clock, int, flags,
1245 : : const struct __kernel_timespec __user *, rqtp,
1246 : : struct __kernel_timespec __user *, rmtp)
1247 : : {
1248 : 0 : const struct k_clock *kc = clockid_to_kclock(which_clock);
1249 : 0 : struct timespec64 t;
1250 : :
1251 [ # # ]: 0 : if (!kc)
1252 : : return -EINVAL;
1253 [ # # ]: 0 : if (!kc->nsleep)
1254 : : return -EOPNOTSUPP;
1255 : :
1256 [ # # ]: 0 : if (get_timespec64(&t, rqtp))
1257 : : return -EFAULT;
1258 : :
1259 [ # # ]: 0 : if (!timespec64_valid(&t))
1260 : : return -EINVAL;
1261 [ # # ]: 0 : if (flags & TIMER_ABSTIME)
1262 : 0 : rmtp = NULL;
1263 : 0 : current->restart_block.nanosleep.type = rmtp ? TT_NATIVE : TT_NONE;
1264 : 0 : current->restart_block.nanosleep.rmtp = rmtp;
1265 : :
1266 : 0 : return kc->nsleep(which_clock, flags, &t);
1267 : : }
1268 : :
1269 : : #ifdef CONFIG_COMPAT_32BIT_TIME
1270 : :
1271 : 0 : SYSCALL_DEFINE4(clock_nanosleep_time32, clockid_t, which_clock, int, flags,
1272 : : struct old_timespec32 __user *, rqtp,
1273 : : struct old_timespec32 __user *, rmtp)
1274 : : {
1275 : 0 : const struct k_clock *kc = clockid_to_kclock(which_clock);
1276 : 0 : struct timespec64 t;
1277 : :
1278 [ # # ]: 0 : if (!kc)
1279 : : return -EINVAL;
1280 [ # # ]: 0 : if (!kc->nsleep)
1281 : : return -EOPNOTSUPP;
1282 : :
1283 [ # # ]: 0 : if (get_old_timespec32(&t, rqtp))
1284 : : return -EFAULT;
1285 : :
1286 [ # # ]: 0 : if (!timespec64_valid(&t))
1287 : : return -EINVAL;
1288 [ # # ]: 0 : if (flags & TIMER_ABSTIME)
1289 : : rmtp = NULL;
1290 [ # # ]: 0 : current->restart_block.nanosleep.type = rmtp ? TT_COMPAT : TT_NONE;
1291 : 0 : current->restart_block.nanosleep.compat_rmtp = rmtp;
1292 : :
1293 : 0 : return kc->nsleep(which_clock, flags, &t);
1294 : : }
1295 : :
1296 : : #endif
1297 : :
1298 : : static const struct k_clock clock_realtime = {
1299 : : .clock_getres = posix_get_hrtimer_res,
1300 : : .clock_get_timespec = posix_get_realtime_timespec,
1301 : : .clock_get_ktime = posix_get_realtime_ktime,
1302 : : .clock_set = posix_clock_realtime_set,
1303 : : .clock_adj = posix_clock_realtime_adj,
1304 : : .nsleep = common_nsleep,
1305 : : .timer_create = common_timer_create,
1306 : : .timer_set = common_timer_set,
1307 : : .timer_get = common_timer_get,
1308 : : .timer_del = common_timer_del,
1309 : : .timer_rearm = common_hrtimer_rearm,
1310 : : .timer_forward = common_hrtimer_forward,
1311 : : .timer_remaining = common_hrtimer_remaining,
1312 : : .timer_try_to_cancel = common_hrtimer_try_to_cancel,
1313 : : .timer_wait_running = common_timer_wait_running,
1314 : : .timer_arm = common_hrtimer_arm,
1315 : : };
1316 : :
1317 : : static const struct k_clock clock_monotonic = {
1318 : : .clock_getres = posix_get_hrtimer_res,
1319 : : .clock_get_timespec = posix_get_monotonic_timespec,
1320 : : .clock_get_ktime = posix_get_monotonic_ktime,
1321 : : .nsleep = common_nsleep_timens,
1322 : : .timer_create = common_timer_create,
1323 : : .timer_set = common_timer_set,
1324 : : .timer_get = common_timer_get,
1325 : : .timer_del = common_timer_del,
1326 : : .timer_rearm = common_hrtimer_rearm,
1327 : : .timer_forward = common_hrtimer_forward,
1328 : : .timer_remaining = common_hrtimer_remaining,
1329 : : .timer_try_to_cancel = common_hrtimer_try_to_cancel,
1330 : : .timer_wait_running = common_timer_wait_running,
1331 : : .timer_arm = common_hrtimer_arm,
1332 : : };
1333 : :
1334 : : static const struct k_clock clock_monotonic_raw = {
1335 : : .clock_getres = posix_get_hrtimer_res,
1336 : : .clock_get_timespec = posix_get_monotonic_raw,
1337 : : };
1338 : :
1339 : : static const struct k_clock clock_realtime_coarse = {
1340 : : .clock_getres = posix_get_coarse_res,
1341 : : .clock_get_timespec = posix_get_realtime_coarse,
1342 : : };
1343 : :
1344 : : static const struct k_clock clock_monotonic_coarse = {
1345 : : .clock_getres = posix_get_coarse_res,
1346 : : .clock_get_timespec = posix_get_monotonic_coarse,
1347 : : };
1348 : :
1349 : : static const struct k_clock clock_tai = {
1350 : : .clock_getres = posix_get_hrtimer_res,
1351 : : .clock_get_ktime = posix_get_tai_ktime,
1352 : : .clock_get_timespec = posix_get_tai_timespec,
1353 : : .nsleep = common_nsleep,
1354 : : .timer_create = common_timer_create,
1355 : : .timer_set = common_timer_set,
1356 : : .timer_get = common_timer_get,
1357 : : .timer_del = common_timer_del,
1358 : : .timer_rearm = common_hrtimer_rearm,
1359 : : .timer_forward = common_hrtimer_forward,
1360 : : .timer_remaining = common_hrtimer_remaining,
1361 : : .timer_try_to_cancel = common_hrtimer_try_to_cancel,
1362 : : .timer_wait_running = common_timer_wait_running,
1363 : : .timer_arm = common_hrtimer_arm,
1364 : : };
1365 : :
1366 : : static const struct k_clock clock_boottime = {
1367 : : .clock_getres = posix_get_hrtimer_res,
1368 : : .clock_get_ktime = posix_get_boottime_ktime,
1369 : : .clock_get_timespec = posix_get_boottime_timespec,
1370 : : .nsleep = common_nsleep_timens,
1371 : : .timer_create = common_timer_create,
1372 : : .timer_set = common_timer_set,
1373 : : .timer_get = common_timer_get,
1374 : : .timer_del = common_timer_del,
1375 : : .timer_rearm = common_hrtimer_rearm,
1376 : : .timer_forward = common_hrtimer_forward,
1377 : : .timer_remaining = common_hrtimer_remaining,
1378 : : .timer_try_to_cancel = common_hrtimer_try_to_cancel,
1379 : : .timer_wait_running = common_timer_wait_running,
1380 : : .timer_arm = common_hrtimer_arm,
1381 : : };
1382 : :
1383 : : static const struct k_clock * const posix_clocks[] = {
1384 : : [CLOCK_REALTIME] = &clock_realtime,
1385 : : [CLOCK_MONOTONIC] = &clock_monotonic,
1386 : : [CLOCK_PROCESS_CPUTIME_ID] = &clock_process,
1387 : : [CLOCK_THREAD_CPUTIME_ID] = &clock_thread,
1388 : : [CLOCK_MONOTONIC_RAW] = &clock_monotonic_raw,
1389 : : [CLOCK_REALTIME_COARSE] = &clock_realtime_coarse,
1390 : : [CLOCK_MONOTONIC_COARSE] = &clock_monotonic_coarse,
1391 : : [CLOCK_BOOTTIME] = &clock_boottime,
1392 : : [CLOCK_REALTIME_ALARM] = &alarm_clock,
1393 : : [CLOCK_BOOTTIME_ALARM] = &alarm_clock,
1394 : : [CLOCK_TAI] = &clock_tai,
1395 : : };
1396 : :
1397 : 0 : static const struct k_clock *clockid_to_kclock(const clockid_t id)
1398 : : {
1399 : 0 : clockid_t idx = id;
1400 : :
1401 [ # # # # : 0 : if (id < 0) {
# # # # #
# # # # #
# # # # #
# ]
1402 : 0 : return (id & CLOCKFD_MASK) == CLOCKFD ?
1403 [ # # # # : 0 : &clock_posix_dynamic : &clock_posix_cpu;
# # # # #
# # # # #
# # # # #
# ]
1404 : : }
1405 : :
1406 [ # # # # : 0 : if (id >= ARRAY_SIZE(posix_clocks))
# # # # #
# # # # #
# # # # #
# ]
1407 : : return NULL;
1408 : :
1409 : 0 : return posix_clocks[array_index_nospec(idx, ARRAY_SIZE(posix_clocks))];
1410 : : }
|
