syscall-stub.S is gone; don't talk about it.
[pintos-anon] / doc / userprog.texi
1 @node Project 2--User Programs, Project 3--Virtual Memory, Project 1--Threads, Top
2 @chapter Project 2: User Programs
3
4 Now that you've worked with Pintos and are familiar with its
5 infrastructure and thread package, it's time to start working on the
6 parts of the system that will allow users to run programs on top of
7 your operating system.  The base code already supports loading and
8 running a single user program at a time with little interactivity
9 possible.  You will allow multiple programs to be loaded in at once,
10 and to interact with the OS via system calls.
11
12 You will be working out of the @file{userprog} directory for this
13 assignment.  However, you will also be interacting with almost every
14 other part of the code for this assignment. We will describe the
15 relevant parts below. If you are confident in your HW1 code, you can
16 build on top of it.  However, if you wish you can start with a fresh
17 copy of the code and re-implement @func{thread_join}, which is the
18 only part of project #1 required for this assignment.  Your submission
19 should define @code{THREAD_JOIN_IMPLEMENTED} in @file{constants.h}
20 (@pxref{Conditional Compilation}).
21
22 Up to now, all of the code you have written for Pintos has been part
23 of the operating system kernel.  This means, for example, that all the
24 test code from the last assignment ran as part of the kernel, with
25 full access to privileged parts of the system.  Once we start running
26 user programs on top of the operating system, this is no longer true.
27 This project deals with consequences of the change.
28
29 We allow more than one user program to run at a time.  Because user
30 programs are written and compiled to work under the illusion that they
31 have the entire machine, when you load into memory and run more than
32 one process at a time, you must manage things correctly to maintain
33 this illusion.
34
35 Before we delve into the details of the new code that you'll be
36 working with, you should probably undo the test cases from project 1.
37
38 @menu
39 * Project 2 Code::              
40 * Using the File System::       
41 * How User Programs Work::      
42 * Virtual Memory Layout::       
43 * Global Requirements::         
44 * Problem 2-1 Argument Passing::  
45 * Problem 2-2 System Calls::    
46 * User Programs FAQ::           
47 * 80x86 Calling Convention::    
48 * System Calls::                
49 @end menu
50
51 @node Project 2 Code
52 @section Code
53
54 The easiest way to get an overview of the programming you will be
55 doing is to simply go over each part you'll be working with.  In
56 @file{userprog}, you'll find a small number of files, but here is
57 where the bulk of your work will be:
58
59 @table @file
60 @item process.c
61 @itemx process.h
62 Loads ELF binaries and starts processes.
63
64 @item pagedir.c
65 @itemx pagedir.h
66 A simple manager for 80@var{x} page directories and page tables.
67 Although you probably won't want to modify this code for this project,
68 you may want to call some of its functions.  In particular,
69 @func{pagedir_get_page} may be helpful for accessing user memory.
70
71 @item syscall.c
72 @itemx syscall.h
73 Whenever a user process wants to access some kernel functionality, it
74 needs to do so via a system call.  This is a skeleton system call
75 handler.  Currently, it just prints a message and terminates the user
76 process.  In part 2 of this project you will add code to do everything
77 else needed by system calls.
78
79 @item exception.c
80 @itemx exception.h
81 When a user process performs a privileged or prohibited operation, it
82 traps into the kernel as an ``exception'' or ``fault.''@footnote{We
83 will treat these terms as synonymous.  There is no standard
84 distinction between them, although the Intel processor manuals define
85 them slightly differently on 80@var{x}86.}  These files handle
86 exceptions.  Currently all exceptions simply print a message and
87 terminate the process.  Some, but not all, solutions to project 2
88 require modifying @func{page_fault} in this file.
89
90 @item gdt.c
91 @itemx gdt.c
92 The 80@var{x}86 is a segmented architecture.  The Global Descriptor
93 Table (GDT) is a table that describes the segments in use.  These
94 files set up the GDT.  @strong{You should not need to modify these
95 files for any of the projects.}  However, you can read the code if
96 you're interested in how the GDT works.
97
98 @item tss.c
99 @itemx tss.c
100 The Task-State Segment (TSS) is used for 80@var{x}86 architectural
101 task switching.  Pintos uses the TSS only for switching stacks when a
102 user process enters an interrupt handler, as does Linux.  @strong{You
103 should not need to modify these files for any of the projects.}
104 However, you can read the code if you're interested in how the TSS
105 works.
106 @end table
107
108 Finally, in @file{lib/kernel}, you might want to use
109 @file{bitmap.[ch]}.  A bitmap is basically an array of bits, each of
110 which can be true or false.  Bitmaps are typically used to keep track
111 of the usage of a large array of (identical) resources: if resource
112 @var{n} is in use, then bit @var{n} of the bitmap is true.  You might
113 find it useful for tracking memory pages, for example.
114
115 @node Using the File System
116 @section Using the File System
117
118 You will need to use some file system code for this project.  First,
119 user programs are loaded from the file system.  Second, many of the
120 system calls you must implement deal with the file system.  However,
121 the focus of this project is not on the file system code, so we have
122 provided a simple file system in the @file{filesys} directory.  You
123 will want to look over the @file{filesys.h} and @file{file.h}
124 interfaces to understand how to use the file system, and especially
125 its many limitations.  @strong{You should not modify the file system
126 code for this project}.  Proper use of the file system routines now
127 will make life much easier for project 4, when you improve the file
128 system implementation.  Until then, you will have to put up with the
129 following limitations:
130
131 @itemize @bullet
132 @item
133 No synchronization.  Concurrent accesses will interfere with one
134 another, so external synchronization is needed.  @xref{Synchronizing
135 File Access}, for more details.
136
137 @item
138 File size is fixed at creation time.  Because the root directory is
139 represented as a file, the number of files that may be created is also
140 limited.
141
142 @item
143 File data is allocated as a single extent, that is, data in a single
144 file must occupy a contiguous range of sectors on disk.  External
145 fragmentation can therefore become a serious problem as a file system is
146 used over time.
147
148 @item
149 No subdirectories.
150
151 @item
152 File names are limited to 14 characters.
153
154 @item
155 A system crash mid-operation may corrupt the disk in a way
156 that cannot be repaired automatically.  No `fsck' tool is
157 provided in any case.
158 @end itemize
159
160 However one important feature is included:
161
162 @itemize @bullet
163 @item
164 Unix-like semantics for filesys_remove() are implemented.
165 That is, if a file is open when it is removed, its blocks
166 are not deallocated and it may still be accessed by the
167 threads that have it open until the last one closes it.  @xref{Removing
168 an Open File}, for more information.
169 @end itemize
170
171 You need to be able to create and format simulated disks.  The
172 @command{pintos} program provides this functionality with its
173 @option{make-disk} command.  From the @file{userprog/build} directory,
174 execute @code{pintos make-disk fs.dsk 2}.  This command creates a 2 MB
175 simulated disk named @file{fs.dsk}.  (It does not actually start
176 Pintos.)  Then format the disk by passing the @option{-f} option to
177 Pintos on the kernel's command line: @code{pintos run -f}.
178
179 You'll need a way to get files in and out of the simulated file
180 system.  The @code{pintos} @option{put} and @option{get} commands are
181 designed for this.  To copy @file{@var{file}} into the Pintos file
182 system, use the command @file{pintos put @var{file}}.  To copy it to
183 the Pintos file system under the name @file{@var{newname}}, add the
184 new name to the end of the command: @file{pintos put @var{file}
185 @var{newname}}.  The commands for copying files out of a VM are
186 similar, but substitute @option{get} for @option{get}.
187
188 Incidentally, these commands work by passing special options
189 @option{-ci} and @option{-co} on the kernel's command line and copying
190 to and from a special simulated disk named @file{scratch.dsk}.  If
191 you're very curious, you can look at the @command{pintos} program as
192 well as @file{filesys/fsutil.c} to learn the implementation details,
193 but it's really not relevant for this project.
194
195 Here's a summary of how you would create and format a disk, copy the
196 @command{echo} program into the new disk, and then run @command{echo}.
197 It assumes that you've already built the tests in
198 @file{tests/userprog} and that the current directory is
199 @file{userprog/build}:
200
201 @example
202 pintos make-disk fs.dsk 2
203 pintos run -f
204 pintos put ../../tests/userprog/echo echo
205 pintos run -ex echo
206 @end example
207
208 You can delete a file from the Pintos file system using the @option{-r
209 @var{file}} kernel option, e.g.@: @code{pintos run -r @var{file}}.
210 Also, @option{-ls} lists the files in the file system and @option{-p
211 @var{file}} prints a file's contents to the display.
212
213 @node How User Programs Work
214 @section How User Programs Work
215
216 Pintos can run normal C programs.  In fact, it can run any program you
217 want, provided it's compiled into the proper file format, and uses
218 only the system calls you implement.  (For example, @func{malloc}
219 makes use of functionality that isn't provided by any of the syscalls
220 we require you to support.)  The only other limitation is that Pintos
221 can't run programs using floating point operations, since it doesn't
222 include the necessary kernel functionality to save and restore the
223 processor's floating-point unit when switching threads.  You can look
224 in @file{tests/userprog} directory for some examples.
225
226 Pintos loads ELF executables, where ELF is an executable format used
227 by Linux, Solaris, and many other Unix and Unix-like systems.
228 Therefore, you can use any compiler and linker that produce
229 80@var{x}86 ELF executables to produce programs for Pintos.  We
230 recommend using the tools we provide in the @file{tests/userprog}
231 directory.  By default, the @file{Makefile} in this directory will
232 compile the test programs we provide.  You can edit the
233 @file{Makefile} to compile your own test programs as well.
234
235 One thing you should realize immediately is that, until you copy a
236 test program to the emulated disk, Pintos will be unable to do very
237 much useful work.  You will also find that you won't be able to do
238 interesting things until you copy a variety of programs to the disk.
239 A useful technique is to create a clean reference disk and copy that
240 over whenever you trash your @file{fs.dsk} beyond a useful state,
241 which may happen occasionally while debugging.
242
243 @node Virtual Memory Layout
244 @section Virtual Memory Layout
245
246 Virtual memory in Pintos is divided into two regions: user virtual
247 memory and kernel virtual memory.  User virtual memory ranges from
248 virtual address 0 up to @code{PHYS_BASE}, which is defined in
249 @file{threads/mmu.h} and defaults to @t{0xc0000000} (3 GB).  Kernel
250 virtual memory occupies the rest of the virtual address space, from
251 @code{PHYS_BASE} up to 4 GB.
252
253 User virtual memory is per-process.  Conceptually, each process is
254 free to use the entire space of user virtual memory however it
255 chooses.  When the kernel switches from one process to another, it
256 also switches user virtual address spaces by switching the processor's
257 page directory base register (see @func{pagedir_activate in
258 @file{userprog/pagedir.c}}.  @struct{thread} contains a pointer to a
259 process's page directory.
260
261 Kernel virtual memory is global.  It is always mapped the same way,
262 regardless of what user process or kernel thread is running.  In
263 Pintos, kernel virtual memory is mapped one-to-one to physical
264 memory.  That is, virtual address @code{PHYS_ADDR} accesses physical
265 address 0, virtual address @code{PHYS_ADDR} + @t{0x1234} access
266 physical address @t{0x1234}, and so on up to the size of the machine's
267 physical memory.
268
269 User programs can only access user virtual memory.  An attempt to
270 access kernel virtual memory will cause a page fault, handled by
271 @func{page_fault} in @file{userprog/exception.c}, and the process
272 will be terminated.  Kernel threads can access both kernel virtual
273 memory and, if a user process is running, the user virtual memory of
274 the running process.  However, even in the kernel, an attempt to
275 access memory at a user virtual address that doesn't have a page
276 mapped into it will cause a page fault.
277
278 You must handle memory fragmentation gracefully, that is, a process
279 that needs @var{N} pages of memory must not require that all @var{N}
280 be contiguous.  In fact, it must not require that any of the pages be
281 contiguous.
282
283 @node Global Requirements
284 @section Global Requirements
285
286 For testing and grading purposes, we have some simple overall
287 requirements:
288
289 @itemize @bullet
290 @item
291 The kernel should print out the program's name and exit status whenever
292 a process terminates, whether termination is caused by the @code{exit}
293 system call or for another reason.
294
295 @itemize @minus
296 @item
297 The message must be formatted exactly as if it was printed with
298 @code{printf ("%s: exit(%d)\n", @dots{});} given appropriate arguments.
299
300 @item
301 The name printed should be the full name passed to
302 @func{process_execute}, except that it is acceptable to truncate it to
303 15 characters to allow for the limited space in @struct{thread}.  The
304 name printed need not include arguments.
305
306 @item
307 Do not print a message when a kernel thread that is not a process
308 terminates.
309
310 @item
311 Do not print messages about process termination for the @code{halt}
312 system call.
313
314 @item
315 No message need be printed when a process fails to load.
316 @end itemize
317
318 @item
319 Aside from this, the kernel should print out no other messages that
320 Pintos as provided doesn't already print.  You
321 may understand all those debug messages, but we won't, and it just
322 clutters our ability to see the stuff we care about.
323
324 @item
325 Additionally, while it may be useful to hard-code which process will
326 run at startup while debugging, before you submit your code you must
327 make sure that it takes the start-up process name and arguments from
328 the @samp{-ex} argument.  For example, running @code{pintos run -ex
329 "testprogram 1 2 3 4"} will spawn @samp{testprogram 1 2 3 4} as the
330 first process.
331 @end itemize
332
333 @node Problem 2-1 Argument Passing
334 @section Problem 2-1: Argument Passing
335
336 Currently, @func{process_execute} does not support passing arguments
337 to new processes.  UNIX and other operating systems do allow passing
338 command line arguments to a program, which accesses them via the argc,
339 argv arguments to main.  You must implement this functionality by
340 extending @func{process_execute} so that instead of simply taking a
341 program file name as its argument, it divides it into words at spaces.
342 The first word is the program name, the second word is the first
343 argument, and so on.  That is, @code{process_execute("grep foo bar")}
344 should run @command{grep} passing two arguments @code{foo} and
345 @file{bar}.  A few details:
346
347 @itemize
348 @item
349 Multiple spaces are considered the same as a single space, so that
350 @code{process_execute("grep foo bar")} would be equivalent to our
351 original example.
352
353 @item
354 You can impose a reasonable limit on the length of the command line
355 arguments.  For example, you could limit the arguments to those that
356 will fit in a single page (4 kB).
357
358 @item
359 You can parse the argument strings any way you like.  If you're lost,
360 look at @func{strtok_r}, prototyped in @file{lib/string.h} and
361 implemented with thorough comments in @file{lib/string.c}.  You can
362 find more about it by looking at the man page (run @code{man strtok_r}
363 at the prompt).
364
365 @item
366 @xref{80x86 Calling Convention}, for information on exactly how you
367 need to set up the stack.
368 @end itemize
369
370 @strong{This functionality is extremely important.}  Almost all our
371 test cases rely on being able to pass arguments, so if you don't get
372 this right, a lot of things will not appear to work correctly with our
373 tests.  If the tests fail, so do you.  Fortunately, this part
374 shouldn't be too hard.
375
376 @node Problem 2-2 System Calls
377 @section Problem 2-2: System Calls
378
379 Implement the system call handler in @file{userprog/syscall.c} to
380 properly deal with all the system calls described below.  Currently,
381 it ``handles'' system calls by terminating the process.  You will need
382 to decipher system call arguments and take the appropriate action for
383 each.
384
385 You are required to support the following system calls, whose syscall
386 numbers are defined in @file{lib/syscall-nr.h} and whose C functions
387 called by user programs are prototyped in @file{lib/user/syscall.h}:
388
389 @table @code
390 @item SYS_halt
391 @itemx void halt (void)
392 Stops Pintos by calling @func{power_off} (declared in
393 @file{threads/init.h}).  Note that this should be seldom used, since
394 then you lose some information about possible deadlock situations,
395 etc.
396
397 @item SYS_exit
398 @itemx void exit (int @var{status})
399 Terminates the current user program, returning @var{status} to the
400 kernel.  If the process's parent @func{join}s it, this is the status
401 that will be returned.  Conventionally, a @var{status} of 0 indicates
402 a successful exit.  Other values may be used to indicate user-defined
403 conditions (usually errors).
404
405 @item SYS_exec
406 @itemx pid_t exec (const char *@var{cmd_line})
407 Runs the executable whose name is given in @var{cmd_line}, passing any
408 given arguments, and returns the new process's program id (pid).  Must
409 return pid -1, which otherwise should not be a valid program id, if
410 there is an error loading this program.
411
412 @item SYS_join
413 @itemx int join (pid_t @var{pid})
414 Joins the process @var{pid}, using the join rules from the last
415 assignment, and returns the process's exit status.  If the process was
416 terminated by the kernel (i.e.@: killed due to an exception), the exit
417 status should be -1.  If the process was not a child of the calling
418 process, the return value is undefined (but kernel operation must not
419 be disrupted).
420
421 @item SYS_create
422 @itemx bool create (const char *@var{file}, unsigned @var{initial_size})
423 Create a new file called @var{file} initially @var{initial_size} bytes
424 in size.  Returns true if successful, false otherwise.
425
426 @item SYS_remove
427 @itemx bool remove (const char *@var{file})
428 Delete the file called @var{file}.  Returns true if successful, false
429 otherwise.
430
431 @item SYS_open
432 @itemx int open (const char *@var{file})
433 Open the file called @var{file}.  Returns a nonnegative integer handle
434 called a ``file descriptor'' (fd), or -1 if the file could not be
435 opened.  All open files associated with a process should be closed
436 when the process exits or is terminated.
437
438 File descriptors numbered 0 and 1 are reserved for the console: fd 0
439 is standard input (@code{stdin}), fd 1 is standard output
440 (@code{stdout}).  These special file descriptors are valid as system
441 call arguments only as explicitly described below.
442
443 @item SYS_filesize
444 @itemx int filesize (int @var{fd})
445 Returns the size, in bytes, of the file open as @var{fd}.
446
447 @item SYS_read
448 @itemx int read (int @var{fd}, void *@var{buffer}, unsigned @var{size})
449 Read @var{size} bytes from the file open as @var{fd} into
450 @var{buffer}.  Returns the number of bytes actually read (0 at end of
451 file), or -1 if the file could not be read (due to a condition other
452 than end of file).  Fd 0 reads from the keyboard using
453 @func{kbd_getc}.
454
455 @item SYS_write
456 @itemx int write (int @var{fd}, const void *@var{buffer}, unsigned @var{size})
457 Write @var{size} bytes from @var{buffer} to the open file @var{fd}.
458 Returns the number of bytes actually written, or -1 if the file could
459 not be written.   
460
461 Fd 1 writes to the console.  Your code to write to the console should
462 write all of @var{buffer} in one call to @func{putbuf}, at least as
463 long as @var{size} is not bigger than a few hundred bytes.  Otherwise,
464 lines of text output by different processes may end up interleaved on
465 the console, confusing both human readers and our grading scripts.
466
467 @item SYS_seek
468 @itemx void seek (int @var{fd}, unsigned @var{position})
469 Changes the next byte to be read or written in open file @var{fd} to
470 @var{position}, expressed in bytes from the beginning of the file.
471 (Thus, a @var{position} of 0 is the file's start.)
472
473 A seek past the current end of a file is not an error.  A later read
474 obtains 0 bytes, indicating end of file.  A later write extends the
475 file, filling any unwritten gap with zeros.  (However, in Pintos files
476 have a fixed length until project 4 is complete, so writes past end of
477 file will return an error.)  These semantics are implemented in the
478 file system and do not require any special effort in system call
479 implementation.
480
481 @item SYS_tell
482 @itemx unsigned tell (int @var{fd})
483 Returns the position of the next byte to be read or written in open
484 file @var{fd}, expressed in bytes from the beginning of the file.
485
486 @item SYS_close
487 @itemx void close (int @var{fd})
488 Close file descriptor @var{fd}.
489 @end table
490
491 The file defines other syscalls.  Ignore them for now.  You will
492 implement some of them in project 3 and the rest in project 4, so be
493 sure to design your system with extensibility in mind.
494
495 To implement syscalls, you will need to provide a way of copying data
496 from the user's virtual address space into the kernel and vice versa.
497 This can be a bit tricky: what if the user provides an invalid
498 pointer, a pointer into kernel memory, or points to a block that is
499 partially in one of those regions?  You should handle these cases by
500 terminating the user process.  You will need this code before you can
501 even obtain the system call number, because the system call number is
502 on the user's stack in the user's virtual address space.  We recommend
503 writing and testing this code before implementing any other system
504 call functionality.
505
506 @anchor{Synchronizing File Access}
507 You must make sure that system calls are properly synchronized so that
508 any number of user processes can make them at once.  In particular, it
509 is not safe to call into the filesystem code provided in the
510 @file{filesys} directory from multiple threads at once.  For now, we
511 recommend adding a single lock that controls access to the filesystem
512 code.  You should acquire this lock before calling any functions in
513 the @file{filesys} directory, and release it afterward.  Don't forget
514 that @func{process_execute} also accesses files.  @strong{For now, we
515 recommend against modifying code in the @file{filesys} directory.}
516
517 We have provided you a user-level function for each system call in
518 @file{lib/user/syscall.c}.  These provide a way for user processes to
519 invoke each system call from a C program.  Each uses a little inline
520 assembly code to invoke the system call and (if appropriate) returns the
521 system call's return value.
522
523 When you're done with this part, and forevermore, Pintos should be
524 bulletproof.  Nothing that a user program can do should ever cause the
525 OS to crash, halt, assert fail, or otherwise stop running.  It is
526 important to emphasize this point: our tests will try to break your
527 system calls in many, many ways.  You need to think of all the corner
528 cases and handle them.  The sole way a user program should be able to
529 cause the OS to halt is by invoking the @code{halt} system call.
530
531 If a system call is passed an invalid argument, acceptable options
532 include returning an error value (for those calls that return a
533 value), returning an undefined value, or terminating the process.
534
535 @xref{System Calls}, for more information on how syscalls work.
536
537 @node User Programs FAQ
538 @section FAQ
539
540 @enumerate 1
541 @item
542 @b{Do we need a working project 1 to implement project 2?}
543
544 You may find the code for @func{thread_join} to be useful in
545 implementing the join syscall, but besides that, you can use
546 the original code provided for project 1.
547
548 @item
549 @b{@samp{pintos put} always panics.}
550
551 Here are the most common causes:
552
553 @itemize @bullet
554 @item
555 The disk hasn't yet been formatted (with @samp{pintos run -f}).
556
557 @item
558 The file name specified is too long.  The file system limits file names
559 to 14 characters.  If you're using a command like @samp{pintos put
560 ../../tests/userprog/echo}, that overflows the limit.  Use
561 @samp{pintos put ../../tests/userprog/echo echo} to put the file under
562 the name @file{echo} instead.
563
564 @item
565 The file system is full.
566
567 @item
568 The file system already contains 10 files.  (There's a 10-file limit for
569 the base Pintos file system.)
570
571 @item
572 The file system is so fragmented that there's not enough contiguous
573 space for your file.
574 @end itemize
575
576 @item
577 @b{All my user programs die with page faults.}
578
579 This will generally happen if you haven't implemented problem 2-1
580 yet.  The reason is that the basic C library for user programs tries
581 to read @var{argc} and @var{argv} off the stack.  Because the stack
582 isn't properly set up yet, this causes a page fault.
583
584 @item
585 @b{I implemented 2-1 and now all my user programs die with
586 @samp{system call!}.}
587
588 Every reasonable program tries to make at least one system call
589 (@func{exit}) and most programs make more than that.  Notably,
590 @func{printf} invokes the @code{write} system call.  The default
591 system call handler just prints @samp{system call!} and terminates the
592 program.  You'll have to implement 2-2 before you see anything more
593 interesting.  Until then, you can use @func{hex_dump} to convince
594 yourself that 2-1 is implemented correctly (@pxref{Argument Passing to
595 main}).
596
597 @item
598 @b{Is there a way I can disassemble user programs?}
599
600 The @command{i386-elf-objdump} utility can disassemble entire user
601 programs or object files.  Invoke it as @code{i386-elf-objdump -d
602 @var{file}}.  You can also use @code{i386-elf-gdb}'s
603 @command{disassemble} command to disassemble individual functions in
604 object files compiled with debug information.
605
606 @item
607 @b{Why can't I use many C include files in my Pintos programs?}
608
609 The C library we provide is very limited.  It does not include many of
610 the features that are expected of a real operating system's C library.
611 The C library must be built specifically for the operating system (and
612 architecture), since it must make system calls for I/O and memory
613 allocation.  (Not all functions do, of course, but usually the library
614 is compiled as a unit.)
615
616 @item
617 @b{Can I use lib@var{foo} in my Pintos programs?}
618
619 The chances are good that lib@var{foo} uses parts of the C library
620 that Pintos doesn't implement.  It will probably take at least some
621 porting effort to make it work under Pintos.  Notably, the Pintos
622 userland C library does not have a @func{malloc} implementation.
623
624 @item
625 @b{How do I compile new user programs?}
626
627 You need to modify @file{tests/Makefile}.
628
629 @item
630 @b{What's the difference between @code{tid_t} and @code{pid_t}?}
631
632 A @code{tid_t} identifies a kernel thread, which may have a user
633 process running in it (if created with @func{process_execute}) or not
634 (if created with @func{thread_create}).  It is a data type used only
635 in the kernel.
636
637 A @code{pid_t} identifies a user process.  It is used by user
638 processes and the kernel in the @code{exec} and @code{join} system
639 calls.
640
641 You can choose whatever suitable types you like for @code{tid_t} and
642 @code{pid_t}.  By default, they're both @code{int}.  You can make them
643 a one-to-one mapping, so that the same values in both identify the
644 same process, or you can use a more complex mapping.  It's up to you.
645
646 @item
647 @b{I can't seem to figure out how to read from and write to user
648 memory. What should I do?}
649
650 The kernel must treat user memory delicately.  As part of a system
651 call, the user can pass to the kernel a null pointer, a pointer to
652 unmapped virtual memory, or a pointer to kernel virtual address space
653 (above @code{PHYS_BASE}).  All of these types of invalid pointers must
654 be rejected without harm to the kernel or other running processes.  At
655 your option, the kernel may handle invalid pointers by terminating the
656 process or returning from the system call with an error.
657
658 There are at least two reasonable ways to do this correctly.  The
659 first method is to ``verify then access'':@footnote{These terms are
660 made up for this document.  They are not standard terminology.} verify
661 the validity of a user-provided pointer, then dereference it.  If you
662 choose this route, you'll want to look at the functions in
663 @file{userprog/pagedir.c} and in @file{threads/mmu.h}.  This is the
664 simplest way to handle user memory access.
665
666 The second method is to ``assume and react'': directly dereference
667 user pointers, after checking that they point below @code{PHYS_BASE}.
668 Invalid user pointers will then cause a ``page fault'' that you can
669 handle by modifying the code for @func{page_fault} in
670 @file{userprog/exception.cc}.  This technique is normally faster
671 because it takes advantage of the processor's MMU, so it tends to be
672 used in real kernels (including Linux).
673
674 In either case, you need to make sure not to ``leak'' resources.  For
675 example, suppose that your system call has acquired a lock or
676 allocated a page of memory.  If you encounter an invalid user pointer
677 afterward, you must still be sure to release the lock or free the page
678 of memory.  If you choose to ``verify then access,'' then this should
679 be straightforward, but for ``assume and react'' it's more difficult,
680 because there's no way to return an error code from a memory access.
681 Therefore, for those who want to try the latter technique, we'll
682 provide a little bit of helpful code:
683
684 @verbatim
685 /* Tries to copy a byte from user address USRC to kernel address DST.
686    Returns true if successful, false if USRC is invalid. */
687 static inline bool get_user (uint8_t *dst, const uint8_t *usrc) {
688   int eax;
689   asm ("mov %%eax, offset 1f; mov %%al, %2; mov %0, %%al; 1:"
690        : "=m" (*dst), "=&a" (eax) : "m" (*usrc));
691   return eax != 0;
692 }
693
694 /* Tries write BYTE to user address UDST.
695    Returns true if successful, false if UDST is invalid. */
696 static inline bool put_user (uint8_t *udst, uint8_t byte) {
697   int eax;
698   asm ("mov %%eax, offset 1f; mov %0, %b2; 1:"
699        : "=m" (*udst), "=&a" (eax) : "r" (byte));
700   return eax != 0;
701 }
702 @end verbatim
703
704 Each of these functions assumes that the user address has already been
705 verified to be below @code{PHYS_BASE}.  They also assume that you've
706 modified @func{page_fault} so that a page fault in the kernel causes
707 @code{eax} to be set to 0 and its former value copied into @code{eip}.
708
709 @item
710 @b{I'm also confused about reading from and writing to the stack. Can
711 you help?}
712
713 @itemize @bullet
714 @item
715 Only non-@samp{char} values will have issues when writing them to
716 memory.  If a digit is in a string, it is considered a character.
717 However, the value of @code{argc} would be a non-char.
718
719 @item
720 You will need to write characters and non-characters into main memory.
721
722 @item
723 When you add items to the stack, you will be decrementing the stack
724 pointer.  You'll need to decrement the stack pointer before writing to
725 the location.
726
727 @item
728 Each character is 1 byte.
729 @end itemize
730
731 @item
732 @b{Why doesn't keyboard input work with @samp{pintos -v}?}
733
734 Serial input isn't implemented.  Don't use @samp{pintos -v} if you
735 want to use the shell or otherwise provide keyboard input.
736 @end enumerate
737
738 @menu
739 * Problem 2-1 Argument Passing FAQ::  
740 * Problem 2-2 System Calls FAQ::  
741 @end menu
742
743 @node Problem 2-1 Argument Passing FAQ
744 @subsection Problem 2-1: Argument Passing FAQ
745
746 @enumerate 1
747 @item
748 @b{Why is the top of the stack at @t{0xc0000000}?  Isn't that off the
749 top of user virtual memory?  Shouldn't it be @t{0xbfffffff}?}
750
751 When the processor pushes data on the stack, it decrements the stack
752 pointer first.  Thus, the first (4-byte) value pushed on the stack
753 will be at address @t{0xbffffffc}.
754
755 Also, the stack should always be aligned to a 4-byte boundary, but
756 @t{0xbfffffff} isn't.
757
758 @item
759 @b{Is @code{PHYS_BASE} fixed?}
760
761 No.  You should be able to support @code{PHYS_BASE} values that are
762 any multiple of @t{0x10000000} from @t{0x80000000} to @t{0xc0000000},
763 simply via recompilation.
764 @end enumerate
765
766 @node Problem 2-2 System Calls FAQ
767 @subsection Problem 2-2: System Calls FAQ
768
769 @enumerate 1
770 @item
771 @b{Can I just cast a pointer to a @struct{file} object to get a
772 unique file descriptor?  Can I just cast a @code{struct thread *} to a
773 @code{pid_t}?  It's so much simpler that way!}
774
775 This is a design decision you will have to make for yourself.
776 However, note that most operating systems do distinguish between file
777 descriptors (or pids) and the addresses of their kernel data
778 structures.  You might want to give some thought as to why they do so
779 before committing yourself.
780
781 @item
782 @b{Can I set a maximum number of open files per process?}
783
784 From a design standpoint, it would be better not to set an arbitrary
785 maximum.  That said, if your design calls for it, you may impose a
786 limit of 128 open files per process (as the Solaris machines here do).
787
788 @item
789 @anchor{Removing an Open File}
790 @b{What happens when two (or more) processes have a file open and one of
791 them removes it?}
792
793 You should copy the standard Unix semantics for files.  That is, when
794 a file is removed an process which has a file descriptor for that file
795 may continue to do operations on that descriptor.  This means that
796 they can read and write from the file.  The file will not have a name,
797 and no other processes will be able to open it, but it will continue
798 to exist until all file descriptors referring to the file are closed
799 or the machine shuts down.
800
801 @item
802 @b{I've discovered that some of my user programs need more than one 4
803 kB page of stack space.  What should I do?}
804
805 You may modify the stack setup code to allocate more than one page of
806 stack space for each process.
807 @end enumerate
808
809 @node 80x86 Calling Convention
810 @section 80@var{x}86 Calling Convention
811
812 What follows is a quick and dirty discussion of the 80@var{x}86
813 calling convention.  Some of the basics should be familiar from CS
814 107, and if you've already taken CS 143 or EE 182, then you should
815 have seen even more of it.  I've omitted some of the complexity, since
816 this isn't a class in how function calls work, so don't expect this to
817 be exactly correct in full, gory detail.  If you do want all the
818 details, you can refer to @bibref{SysV-i386}.
819
820 Whenever a function call happens, you need to put the arguments on the
821 call stack for that function, before the code for that function
822 executes, so that the callee has access to those values.  The caller
823 has to be responsible for this (be sure you understand why).
824 Therefore, when you compile a program, the assembly code emitted will
825 have in it, before every function call, a bunch of instructions that
826 prepares for the call in whatever manner is conventional for the
827 machine you're working on.  This includes saving registers as needed,
828 putting stuff on the stack, saving the location to return to somewhere
829 (so that when the callee finishes, it knows where the caller code is),
830 and some other bookkeeping stuff.  Then you do the jump to the
831 callee's code, and it goes along, assuming that the stack and
832 registers are prepared in the appropriate manner.  When the callee is
833 done, it looks at the return location as saved earlier, and jumps back
834 to that location.  The caller may then have to do some cleanup:
835 clearing arguments and the return value off the stack, restoring
836 registers that were saved before the call, and so on.
837
838 If you think about it, some of these things should remind you of
839 context switching.
840
841 As an aside, in general, function calls are not cheap.  You have to do
842 a bunch of memory writes to prepare the stack, you need to save and
843 restore registers before and after a function call, you need to write
844 the stack pointer, you have a couple of jumps which probably wrecks
845 some of your caches.  This is why inlining code can be much faster.
846
847 @menu
848 * Argument Passing to main::    
849 @end menu
850
851 @node Argument Passing to main
852 @subsection Argument Passing to @code{main()}
853
854 In @func{main}'s case, there is no caller to prepare the stack
855 before it runs.  Therefore, the kernel needs to do it.  Fortunately,
856 since there's no caller, there are no registers to save, no return
857 address to deal with, etc.  The only difficult detail to take care of,
858 after loading the code, is putting the arguments to @func{main} on
859 the stack.
860
861 (The above is a small lie: most compilers will emit code where main
862 isn't strictly speaking the first function.  This isn't an important
863 detail.  If you want to look into it more, try disassembling a program
864 and looking around a bit.  However, you can just act as if
865 @func{main} is the very first function called.)
866
867 Pintos is written for the 80@var{x}86 architecture.  Therefore, we
868 need to adhere to the 80@var{x}86 calling convention.  Basically, you
869 put all the arguments on the stack and move the stack pointer
870 appropriately.  You also need to insert space for the function's
871 ``return address'': even though the initial function doesn't really
872 have a caller, its stack frame must have the same layout as any other
873 function's.  The program will assume that the stack has been laid out
874 this way when it begins running.
875
876 So, what are the arguments to @func{main}? Just two: an @samp{int}
877 (@code{argc}) and a @samp{char **} (@code{argv}).  @code{argv} is an
878 array of strings, and @code{argc} is the number of strings in that
879 array.  However, the hard part isn't these two things.  The hard part
880 is getting all the individual strings in the right place.  As we go
881 through the procedure, let us consider the following example command:
882 @samp{/bin/ls -l foo bar}.
883
884 The first thing to do is to break the command line into individual
885 strings: @samp{/bin/ls}, @samp{-l}, @samp{foo}, and @samp{bar}.  These
886 constitute the arguments of the command, including the program name
887 itself (which belongs in @code{argv[0]}).
888
889 These individual, null-terminated strings should be placed on the user
890 stack.  They may be placed in any order, as you'll see shortly,
891 without affecting how main works, but for simplicity let's assume they
892 are in reverse order (keeping in mind that the stack grows downward on
893 an 80@var{x}86 machine).  As we copy the strings onto the stack, we
894 record their (virtual) stack addresses.  These addresses will become
895 important when we write the argument vector (two paragraphs down).
896
897 After we push all of the strings onto the stack, we adjust the stack
898 pointer so that it is word-aligned: that is, we move it down to the
899 next 4-byte boundary.  This is required because we will next be
900 placing several words of data on the stack, and they must be aligned
901 to be read correctly.  In our example, as you'll see below,
902 the strings start at address @t{0xffed}.  One word below that would be
903 at @t{0xffe9}, so we could in theory put the next word on the stack
904 there.  However, since the stack pointer should always be
905 word-aligned, we instead leave the stack pointer at @t{0xffe8}.
906
907 Once we align the stack pointer, we then push the elements of the
908 argument vector, that is, a null pointer, then the addresses of the
909 strings @samp{/bin/ls}, @samp{-l}, @samp{foo}, and @samp{bar}) onto
910 the stack.  This must be done in reverse order, such that
911 @code{argv[0]} is at the lowest virtual address, again because the
912 stack is growing downward.  (The null pointer pushed first is because
913 @code{argv[argc]} must be a null pointer.)  This is because we are now
914 writing the actual array of strings; if we write them in the wrong
915 order, then the strings will be in the wrong order in the array.  This
916 is also why, strictly speaking, it doesn't matter what order the
917 strings themselves are placed on the stack: as long as the pointers
918 are in the right order, the strings themselves can really be anywhere.
919 After we finish, we note the stack address of the first element of the
920 argument vector, which is @code{argv} itself.
921
922 Then we push @code{argv} (that is, the address of the first element of
923 the @code{argv} array) onto the stack, along with the length of the
924 argument vector (@code{argc}, 4 in this example).  This must also be
925 done in this order, since @code{argc} is the first argument to
926 @func{main} and therefore is on first (smaller address) on the
927 stack.  Finally, we push a fake ``return address'' and leave the stack
928 pointer to point to its location.
929
930 All this may sound very confusing, so here's a picture which will
931 hopefully clarify what's going on. This represents the state of the
932 stack and the relevant registers right before the beginning of the
933 user program (assuming for this example that the stack bottom is
934 @t{0xc0000000}):
935
936 @html
937 <CENTER>
938 @end html
939 @multitable {@t{0xbfffffff}} {``return address''} {@t{/bin/ls\0}}
940 @item Address @tab Name @tab Data
941 @item @t{0xbffffffc} @tab @code{*argv[3]} @tab @samp{bar\0}
942 @item @t{0xbffffff8} @tab @code{*argv[2]} @tab @samp{foo\0}
943 @item @t{0xbffffff5} @tab @code{*argv[1]} @tab @samp{-l\0}
944 @item @t{0xbfffffed} @tab @code{*argv[0]} @tab @samp{/bin/ls\0}
945 @item @t{0xbfffffec} @tab word-align @tab @samp{\0}
946 @item @t{0xbfffffe8} @tab @code{argv[4]} @tab @t{0}
947 @item @t{0xbfffffe4} @tab @code{argv[3]} @tab @t{0xbffffffc}
948 @item @t{0xbfffffe0} @tab @code{argv[2]} @tab @t{0xbffffff8}
949 @item @t{0xbfffffdc} @tab @code{argv[1]} @tab @t{0xbffffff5}
950 @item @t{0xbfffffd8} @tab @code{argv[0]} @tab @t{0xbfffffed}
951 @item @t{0xbfffffd4} @tab @code{argv} @tab @t{0xbfffffd8}
952 @item @t{0xbfffffd0} @tab @code{argc} @tab 4
953 @item @t{0xbfffffcc} @tab ``return address'' @tab 0
954 @end multitable
955 @html
956 </CENTER>
957 @end html
958
959 In this example, the stack pointer would be initialized to
960 @t{0xbfffffcc}.
961
962 As shown above, your code should start the stack at the very top of
963 the user virtual address space, in the page just below virtual address
964 @code{PHYS_BASE} (defined in @file{threads/mmu.h}).
965
966 You may find the non-standard @func{hex_dump} function, declared in
967 @file{<stdio.h>}, useful for debugging your argument passing code.
968 Here's what it would show in the above example, given that
969 @code{PHYS_BASE} is @t{0xc0000000}:
970
971 @verbatim
972 bfffffc0                                      00 00 00 00 |            ....|
973 bfffffd0  04 00 00 00 d8 ff ff bf-ed ff ff bf f5 ff ff bf |................|
974 bfffffe0  f8 ff ff bf fc ff ff bf-00 00 00 00 00 2f 62 69 |............./bi|
975 bffffff0  6e 2f 6c 73 00 2d 6c 00-66 6f 6f 00 62 61 72 00 |n/ls.-l.foo.bar.|
976 @end verbatim
977
978 @node System Calls
979 @section System Calls
980
981 We have already been dealing with one way that the operating system
982 can regain control from a user program: interrupts from timers and I/O
983 devices.  These are ``external'' interrupts, because they are caused
984 by entities outside the CPU.
985
986 The operating system is also called to deal with software exceptions,
987 which are events generated in response to the code.  These can be
988 errors such as a page fault or division by zero.  However, exceptions
989 are also the means by which a user program can request services
990 (``system calls'') from the operating system.
991
992 In the 80@var{x}86 architecture, the @samp{int} instruction is the
993 most commonly used means for invoking system calls.  This instruction
994 is handled in the same way as other software exceptions.  In Pintos,
995 user programs invoke @samp{int $0x30} to make a system call.  The
996 system call number and any additional arguments are expected to be
997 pushed on the stack in the normal fashion before invoking the
998 interrupt.
999
1000 The normal calling convention pushes function arguments on the stack
1001 from right to left and the stack grows downward.  Thus, when the
1002 system call handler @func{syscall_handler} gets control, the system
1003 call number is in the 32-bit word at the caller's stack pointer, the
1004 first argument is in the 32-bit word at the next higher address, and
1005 so on.  The caller's stack pointer is accessible to
1006 @func{syscall_handler} as the @samp{esp} member of the @code{struct
1007 intr_frame} passed to it.
1008
1009 Here's an example stack frame for calling a system call numbered 10
1010 with three arguments passed as 1, 2, and 3.  The stack addresses are
1011 arbitrary:
1012
1013 @html
1014 <CENTER>
1015 @end html
1016 @multitable {@t{0xbffffe7c}} {Value}
1017 @item Address @tab Value
1018 @item @t{0xbffffe7c} @tab 3
1019 @item @t{0xbffffe78} @tab 2
1020 @item @t{0xbffffe74} @tab 1
1021 @item @t{0xbffffe70} @tab 10
1022 @end multitable
1023 @html
1024 </CENTER>
1025 @end html
1026
1027 In this example, the caller's stack pointer would be at
1028 @t{0xbffffe70}.
1029
1030 The 80@var{x}86 convention for function return values is to place them
1031 in the @samp{EAX} register.  System calls that return a value can do
1032 so by modifying the @samp{eax} member of @struct{intr_frame}.
1033
1034 You should try to avoid writing large amounts of repetitive code for
1035 implementing system calls.  Each system call argument, whether an
1036 integer or a pointer, takes up 4 bytes on the stack.  You should be able
1037 to take advantage of this to avoid writing much near-identical code for
1038 retrieving each system call's arguments from the stack.