Rename addrspace to process.
[pintos-anon] / doc / userprog.texi
1 @node Project 2--User Programs, Project 3--Virtual Memory, Project 1--Threads, Top
2 @chapter Project 2: User Programs
3
4 Now that you've worked with Pintos and are familiar with its
5 infrastructure and thread package, it's time to start working on the
6 parts of the system that will allow users to run programs on top of
7 your operating system.  The base code already supports loading and
8 running a single user program at a time with little interactivity
9 possible.  You will allow multiple programs to be loaded in at once,
10 and to interact with the OS via system calls.
11
12 You will be working out of the @file{userprog} directory for this
13 assignment.  However, you will also be interacting with almost every
14 other part of the code for this assignment. We will describe the
15 relevant parts below. If you are confident in your HW1 code, you can
16 build on top of it.  However, if you wish you can start with a fresh
17 copy of the code and re-implement @code{thread_join()}, which is the
18 only part of project #1 required for this assignment.
19
20 Up to now, all of the code you have written for Pintos has been part
21 of the operating system kernel.  This means, for example, that all the
22 test code from the last assignment ran as part of the kernel, with
23 full access to privileged parts of the system.  Once we start running
24 user programs on top of the operating system, this is no longer true.
25 This project deals with consequences of the change.
26
27 We allow more than one user program to run at a time.  Because user
28 programs are written and compiled to work under the illusion that they
29 have the entire machine, when you load into memory and run more than
30 one process at a time, you must manage things correctly to maintain
31 this illusion.
32
33 Before we delve into the details of the new code that you'll be
34 working with, you should probably undo the test cases from project 1.
35 All you need to do is make sure the original @file{threads/test.c} is
36 in place.  This will stop the tests from being run.
37
38 @menu
39 * Project 2 Code::              
40 * Using the File System::       
41 * How User Programs Work::      
42 * Global Requirements::         
43 * Problem 2-1 Argument Passing::  
44 * Problem 2-2 System Calls::    
45 * User Programs FAQ::           
46 * 80x86 Calling Convention::    
47 * System Calls::                
48 @end menu
49
50 @node Project 2 Code
51 @section Code
52
53 The easiest way to get an overview of the programming you will be
54 doing is to simply go over each part you'll be working with.  In
55 @file{userprog}, you'll find a small number of files, but here is
56 where the bulk of your work will be:
57
58 @table @file
59 @item process.c
60 @itemx process.h
61 Loads ELF binaries and starts processes.
62
63 @item pagedir.c
64 @itemx pagedir.h
65 A simple manager for 80@var{x} page directories and page tables.
66 Although you probably won't want to modify this code for this project,
67 you may want to call some of its functions.  In particular,
68 @code{pagedir_get_page()} may be helpful for accessing user memory.
69
70 @item syscall.c
71 @itemx syscall.h
72 Whenever a user process wants to access some kernel functionality, it
73 needs to do so via a system call.  This is a skeleton system call
74 handler.  Currently, it just prints a message and terminates the user
75 process.  In part 2 of this project you will add code to do everything
76 else needed by system calls.
77
78 @item exception.c
79 @itemx exception.h
80 When a user process performs a privileged or prohibited operation, it
81 traps into the kernel as an ``exception'' or ``fault.''@footnote{We
82 will treat these terms as synonymous.  There is no standard
83 distinction between them, although the Intel processor manuals define
84 them slightly differently on 80@var{x}86.}  These files handle
85 exceptions.  Currently all exceptions simply print a message and
86 terminate the process.  Some, but not all, solutions to project 2
87 require modifying @code{page_fault()} in this file.
88
89 @item gdt.c
90 @itemx gdt.c
91 The 80@var{x}86 is a segmented architecture.  The Global Descriptor
92 Table (GDT) is a table that describes the segments in use.  These
93 files set up the GDT.  @strong{You should not need to modify these
94 files for any of the projects.}  However, you can read the code if
95 you're interested in how the GDT works.
96
97 @item tss.c
98 @itemx tss.c
99 The Task-State Segment (TSS) is used for 80@var{x}86 architectural
100 task switching.  Pintos uses the TSS only for switching stacks when a
101 user process enters an interrupt handler, as does Linux.  @strong{You
102 should not need to modify these files for any of the projects.}
103 However, you can read the code if you're interested in how the GDT
104 works.
105 @end table
106
107 Finally, in @file{lib/kernel}, you might want to use
108 @file{bitmap.[ch]}.  A bitmap is basically an array of bits, each of
109 which can be true or false.  Bitmaps are typically used to keep track
110 of the usage of a large array of (identical) resources: if resource
111 @var{n} is in use, then bit @var{n} of the bitmap is true.  You might
112 find it useful for tracking memory pages, for example.
113
114 @node Using the File System
115 @section Using the File System
116
117 You will need to use some file system code for this project.  First,
118 user programs are loaded from the file system.  Second, many of the
119 system calls you must implement deal with the file system.  However,
120 the focus of this project is not on the file system code, so we have
121 provided a simple file system in the @file{filesys} directory.  You
122 will want to look over the @file{filesys.h} and @file{file.h}
123 interfaces to understand how to use the file system, and especially
124 its many limitations.  @strong{You should not modify the file system
125 code for this project}.  Proper use of the file system routines now
126 will make life much easier for project 4, when you improve the file
127 system implementation.
128
129 You need to be able to create and format simulated disks.  The
130 @command{pintos} program provides this functionality with its
131 @option{make-disk} command.  From the @file{filesys/build} directory,
132 execute @code{pintos make-disk fs.dsk 2}.  This command creates a 2 MB
133 simulated disk named @file{fs.dsk}.  (It does not actually start
134 Pintos.)  Then format the disk by passing the @option{-f} option to
135 Pintos on the kernel's command line: @code{pintos run -f}.
136
137 You'll need a way to get files in and out of the simulated file
138 system.  The @code{pintos} @option{put} and @option{get} commands are
139 designed for this.  To copy @file{@var{file}} into the Pintos file
140 system, use the command @file{pintos put @var{file}}.  To copy it to
141 the Pintos file system under the name @file{@var{newname}}, add the
142 new name to the end of the command: @file{pintos put @var{file}
143 @var{newname}}.  The commands for copying files out of a VM are
144 similar, but substitute @option{get} for @option{get}.
145
146 Incidentally, these commands work by passing special options
147 @option{-ci} and @option{-co} on the kernel's command line and copying
148 to and from a special simulated disk named @file{scratch.dsk}.  If
149 you're very curious, you can look at the @command{pintos} program as
150 well as @file{filesys/fsutil.c} to learn the implementation details,
151 but it's really not relevant for this project.
152
153 You can delete a file from the Pintos file system using the @option{-r
154 @var{file}} kernel option, e.g.@: @code{pintos run -r @var{file}}.
155 Also, @option{-ls} lists the files in the file system and @option{-p
156 @var{file}} prints a file's contents to the display.
157
158 @node How User Programs Work
159 @section How User Programs Work
160
161 Pintos can run normal C programs.  In fact, it can run any program you
162 want, provided it's compiled into the proper file format, and uses
163 only the system calls you implement.  (For example, @code{malloc()}
164 makes use of functionality that isn't provided by any of the syscalls
165 we require you to support.)  The only other limitation is that Pintos
166 can't run programs using floating point operations, since it doesn't
167 include the necessary kernel functionality to save and restore the
168 processor's floating-point unit when switching threads.  You can look
169 in @file{tests/userprog} directory for some examples.
170
171 Pintos loads ELF executables, where ELF is an executable format used
172 by Linux, Solaris, and many other Unix and Unix-like systems.
173 Therefore, you can use any compiler and linker that produce
174 80@var{x}86 ELF executables to produce programs for Pintos.  We
175 recommend using the tools we provide in the @file{tests/userprog}
176 directory.  By default, the @file{Makefile} in this directory will
177 compile the test programs we provide.  You can edit the
178 @file{Makefile} to compile your own test programs as well.
179
180 One thing you should realize immediately is that, until you use the
181 above operation to copy a test program to the emulated disk, Pintos
182 will be unable to do very much useful work.  You will also find that
183 you won't be able to do interesting things until you copy a variety of
184 programs to the disk.  A useful technique is to create a clean
185 reference disk and copy that over whenever you trash your
186 @file{fs.dsk} beyond a useful state, which may happen occasionally
187 while debugging.
188
189 @node Virtual Memory Layout
190 @section Virtual Memory Layout
191
192 Virtual memory in Pintos is divided into two regions: user virtual
193 memory and kernel virtual memory.  User virtual memory ranges from
194 virtual address 0 up to @code{PHYS_BASE}, which is defined in
195 @file{threads/mmu.h} and defaults to @t{0xc0000000} (3 GB).  Kernel
196 virtual memory occupies the rest of the virtual address space, from
197 @code{PHYS_BASE} up to 4 GB.
198
199 User virtual memory is per-process.  Conceptually, each process is
200 free to use the entire space of user virtual memory however it
201 chooses.  When the kernel switches from one process to another, it
202 also switches user virtual address spaces by switching the processor's
203 page directory base register (see @code{pagedir_activate() in
204 @file{userprog/pagedir.c}}.
205
206 Kernel virtual memory is global.  It is always mapped the same way,
207 regardless of what user process or kernel thread is running.  In
208 Pintos, kernel virtual memory is mapped one-to-one to physical
209 memory.  That is, virtual address @code{PHYS_ADDR} accesses physical
210 address 0, virtual address @code{PHYS_ADDR} + @t{0x1234} access
211 physical address @t{0x1234}, and so on up to the size of the machine's
212 physical memory.
213
214 User programs can only access user virtual memory.  An attempt to
215 access kernel virtual memory will cause a page fault, handled by
216 @code{page_fault()} in @file{userprog/exception.c}, and the process
217 will be terminated.  Kernel threads can access both kernel virtual
218 memory and, if a user process is running, the user virtual memory of
219 the running process.  However, even in the kernel, an attempt to
220 access memory at a user virtual address that doesn't have a page
221 mapped into it will cause a page fault.
222
223 @node Global Requirements
224 @section Global Requirements
225
226 For testing and grading purposes, we have some simple requirements for
227 your output.  The kernel should print out the program's name and exit
228 status whenever a process exits, e.g.@: @code{shell: exit(-1)}.  Aside
229 from this, it should print out no other messages.  You may understand
230 all those debug messages, but we won't, and it just clutters our
231 ability to see the stuff we care about.
232
233 Additionally, while it may be useful to hard-code which process will
234 run at startup while debugging, before you submit your code you must
235 make sure that it takes the start-up process name and arguments from
236 the @samp{-ex} argument.  For example, running @code{pintos run -ex
237 "testprogram 1 2 3 4"} will spawn @samp{testprogram 1 2 3 4} as the
238 first process.
239
240 @node Problem 2-1 Argument Passing
241 @section Problem 2-1: Argument Passing
242
243 Currently, @code{process_execute()} does not support passing arguments
244 to new processes.  UNIX and other operating systems do allow passing
245 command line arguments to a program, which accesses them via the argc,
246 argv arguments to main.  You must implement this functionality by
247 extending @code{process_execute()} so that instead of simply taking a
248 program file name, it can take a program name with arguments as a
249 single string.  That is, @code{process_execute("grep foo *.c")} should
250 be a legal call.  @xref{80x86 Calling Convention}, for information on
251 exactly how this works.
252
253 @strong{This functionality is extremely important.}  Almost all our
254 test cases rely on being able to pass arguments, so if you don't get
255 this right, a lot of things will not appear to work correctly with our
256 tests.  If the tests fail, so do you.  Fortunately, this part
257 shouldn't be too hard.
258
259 @node Problem 2-2 System Calls
260 @section Problem 2-2: System Calls
261
262 Implement the system call handler in @file{userprog/syscall.c} to
263 properly deal with all the system calls described below.  Currently,
264 it ``handles'' system calls by terminating the process.  You will need
265 to decipher system call arguments and take the appropriate action for
266 each.
267
268 You are required to support the following system calls, whose syscall
269 numbers are defined in @file{lib/syscall-nr.h} and whose C functions
270 called by user programs are prototyped in @file{lib/user/syscall.h}:
271
272 @table @code
273 @item SYS_halt
274 @itemx void halt (void)
275 Stops Pintos and prints out performance statistics.  Note that this
276 should be seldom used, since then you lose some information about
277 possible deadlock situations, etc.
278
279 @item SYS_exit
280 @itemx void exit (int @var{status})
281 Terminates the current user program, returning @var{status} to the
282 kernel.  A @var{status} of 0 indicates a successful exit.  Other
283 values may be used to indicate user-defined error conditions.
284
285 @item SYS_exec
286 @itemx pid_t exec (const char *@var{file})
287 Run the executable in @var{file} and return the new process's program
288 id (pid).  If there is an error loading this program, returns pid -1,
289 which otherwise should not be a valid id number.
290
291 @item SYS_join
292 @itemx int join (pid_t @var{pid})
293 Joins the process @var{pid}, using the join rules from the last
294 assignment, and returns the process's exit status.  If the process was
295 terminated by the kernel (i.e.@: killed due to an exception), the exit
296 status should be -1.  If the process was not a child of the calling
297 process, the return value is undefined (but kernel operation must not
298 be disrupted).
299
300 @item SYS_create
301 @itemx bool create (const char *@var{file})
302 Create a new file called @var{file}.  Returns -1 if failed, 0 if OK.
303
304 @item SYS_remove
305 @itemx bool remove (const char *@var{file})
306 Delete the file called @var{file}.  Returns -1 if failed, 0 if OK.
307
308 @item SYS_open
309 @itemx int open (const char *@var{file})
310 Open the file called @var{file}.  Returns a nonnegative integer handle
311 called a ``file descriptor'' (fd), or -1 if the file could not be
312 opened.  File descriptors numbered 0 and 1 are reserved for the
313 console.  All open files associated with a process should be closed
314 when the process exits or is terminated.
315
316 @item SYS_filesize
317 @itemx int filesize (int @var{fd})
318 Returns the size, in bytes, of the file open as @var{fd}, or -1 if the
319 file is invalid.
320
321 @item SYS_read
322 @itemx int read (int @var{fd}, void *@var{buffer}, unsigned @var{size})
323 Read @var{size} bytes from the file open as @var{fd} into
324 @var{buffer}.  Returns the number of bytes actually read, or -1 if the
325 file could not be read.
326
327 @item SYS_write
328 @itemx int write (int @var{fd}, const void *@var{buffer}, unsigned @var{size})
329 Write @var{size} bytes from @var{buffer} to the open file @var{fd}.
330 Returns the number of bytes actually written, or -1 if the file could
331 not be written.
332
333 @item SYS_seek
334 @itemx void seek (int @var{fd}, unsigned @var{position})
335 Changes the next byte to be read or written in open file @var{fd} to
336 @var{position}, expressed in bytes from the beginning of the file.
337 (Thus, a @var{position} of 0 is the file's start.)
338
339 @item SYS_tell
340 @itemx unsigned tell (int @var{fd})
341 Returns the position of the next byte to be read or written in open
342 file @var{fd}, expressed in bytes from the beginning of the file.
343
344 @item SYS_close
345 @itemx void close (int @var{fd})
346 Close file descriptor @var{fd}.
347 @end table
348
349 The file defines other syscalls.  Ignore them for now.  You will
350 implement some of them in project 3 and the rest in project 4, so be
351 sure to design your system with extensibility in mind.
352
353 To implement syscalls, you will need to provide a way of copying data
354 from the user's virtual address space into the kernel and vice versa.
355 This can be a bit tricky: what if the user provides an invalid
356 pointer, a pointer into kernel memory, or points to a block that is
357 partially in one of those regions?  You should handle these cases by
358 terminating the user process.  You will need this code before you can
359 even obtain the system call number, because the system call number is
360 on the user's stack in the user's virtual address space.  We recommend
361 writing and testing this code before implementing any other system
362 call functionality.
363
364 You must make sure that system calls are properly synchronized so that
365 any number of user processes can make them at once.  In particular, it
366 is not safe to call into the filesystem code provided in the
367 @file{filesys} directory from multiple threads at once.  For now, we
368 recommend adding a single lock that controls access to the filesystem
369 code.  You should acquire this lock before calling any functions in
370 the @file{filesys} directory, and release it afterward.  Don't forget
371 that @file{process_execute()} also accesses files.  @strong{For now, we
372 recommend against modifying code in the @file{filesys} directory.}
373
374 We have provided you a function for each system call in
375 @file{lib/user/syscall.c}.  These provide a way for user processes to
376 invoke each system call from a C program.  Each of them calls an
377 assembly language routine in @file{lib/user/syscall-stub.S}, which in
378 turn invokes the system call interrupt and returns.
379
380 When you're done with this part, and forevermore, Pintos should be
381 bulletproof.  Nothing that a user program can do should ever cause the
382 OS to crash, halt, assert fail, or otherwise stop running.  The sole
383 exception is a call to the @code{halt} system call.
384
385 @xref{System Calls}, for more information on how syscalls work.
386
387 @node User Programs FAQ
388 @section FAQ
389
390 @enumerate 1
391 @item General FAQs
392
393 @enumerate 1
394 @item
395 @b{Do we need a working project 1 to implement project 2?}
396
397 You may find the code for @code{thread_join()} to be useful in
398 implementing the join syscall, but besides that, you can use
399 the original code provided for project 1.
400
401 @item
402 @b{Is there a way I can disassemble user programs?}
403
404 The @command{i386-elf-objdump} utility can disassemble entire user
405 programs or object files.  Invoke it as @code{i386-elf-objdump -d
406 @var{file}}.  You can also use @code{i386-elf-gdb}'s
407 @command{disassemble} command to disassemble individual functions in
408 object files compiled with debug information.
409
410 @item
411 @b{Why can't I use many C include files in my Pintos programs?}
412
413 The C library we provide is very limited.  It does not include many of
414 the features that are expected of a real operating system's C library.
415 The C library must be built specifically for the operating system (and
416 architecture), since it must make system calls for I/O and memory
417 allocation.  (Not all functions do, of course, but usually the library
418 is compiled as a unit.)  If you wish to port libraries to Pintos, feel
419 free.
420
421 @item
422 @b{How do I compile new user programs? How do I make 'echo' compile?}
423
424 You need to modify @file{tests/Makefile}.
425
426 @item
427 @b{What's the difference between @code{tid_t} and @code{pid_t}?}
428
429 A @code{tid_t} identifies a kernel thread, which may have a user
430 process running in it (if created with @code{process_execute()}) or not
431 (if created with @code{thread_create()}).  It is a data type used only
432 in the kernel.
433
434 A @code{pid_t} identifies a user process.  It is used by user
435 processes and the kernel in the @code{exec} and @code{join} system
436 calls.
437
438 You can choose whatever suitable types you like for @code{tid_t} and
439 @code{pid_t}.  By default, they're both @code{int}.  You can make them
440 a one-to-one mapping, so that the same values in both identify the
441 same process, or you can use a more complex mapping.  It's up to you.
442
443 @item
444 @b{I can't seem to figure out how to read from and write to user
445 memory. What should I do?}
446
447 The kernel must treat user memory delicately.  The user can pass a
448 null pointer or an invalid pointer (one that doesn't point to any
449 memory at all), or a kernel pointer (above @code{PHYS_BASE}).  All of
450 these must be rejected without harm to the kernel or other running
451 processes.
452
453 There are at least two reasonable ways to access user memory.  First,
454 you can translate user addresses (below @code{PHYS_BASE}) into kernel
455 addresses (above @code{PHYS_BASE}) using the functions in
456 @file{pagedir.c}, and then access kernel memory.  Second, you can
457 dereference user pointers directly and handle page faults by
458 terminating the process.  In either case, you'll need to reject kernel
459 pointers as a special case.
460
461 If you choose to translate user addresses into kernel addresses,
462 you'll want to look at @file{threads/mmu.h}, which has all kinds of
463 useful functions for manipulating virtual addresses.
464
465 @item
466 @b{I'm also confused about reading from and writing to the stack. Can
467 you help?}
468
469 @itemize @bullet
470 @item
471 Only non-@samp{char} values will have issues when writing them to
472 memory.  If a digit is in a string, it is considered a character.
473 However, the value of @code{argc} would be a non-char.
474
475 @item
476 You will need to write characters and non-characters into main memory.
477
478 @item
479 When you add items to the stack, you will be decrementing the stack
480 pointer.  You'll need to decrement the stack pointer before writing to
481 the location.
482
483 @item
484 Each character is 1 byte.
485 @end itemize
486
487 @item
488 @b{Why doesn't keyboard input work with @option{-nv}?}
489
490 Serial input isn't implemented.  Don't use @option{-nv} if you want to
491 use the shell or otherwise type at the keyboard.
492 @end enumerate
493
494 @item Argument Passing FAQs
495
496 @enumerate 1
497 @item
498 @b{What will be the format of command line arguments?}
499
500 You should assume that command line arguments are delimited by white
501 space.
502
503 @item
504 @b{What is the maximum length of the command line arguments?}
505
506 You can impose some reasonable maximum as long as you're prepared to
507 defend it in your @file{DESIGNDOC}.
508
509 @item
510 @b{How do I parse all these argument strings?}
511
512 You're welcome to use any technique you please, as long as it works.
513 If you're lost, look at @code{strtok_r()}, prototyped in
514 @file{lib/string.h} and implemented with thorough comments in
515 @file{lib/string.c}.  You can find more about it by looking at the man
516 page (run @code{man strtok_r} at the prompt).
517
518 @item
519 @b{Why is the top of the stack at @t{0xc0000000}?  Isn't that off the
520 top of user virtual memory?  Shouldn't it be @t{0xbfffffff}?}
521
522 When the processor pushes data on the stack, it decrements the stack
523 pointer first.  Thus, the first (4-byte) value pushed on the stack
524 will be at address @t{0xbffffffc}.
525
526 Also, the stack should always be aligned to a 4-byte boundary, but
527 @t{0xbfffffff} isn't.
528
529 @item
530 @b{Is @code{PHYS_BASE} fixed?}
531
532 No.  You should be able to support @code{PHYS_BASE} values that are
533 any multiple of @t{0x10000000} from @t{0x80000000} to @t{0xc0000000},
534 simply via recompilation.
535 @end enumerate
536
537 @item System Calls FAQs
538
539 @enumerate 1
540 @item
541 @b{What should I do with the parameter passed to @code{exit()}?}
542
543 This value, the exit status of the process, must be returned to the
544 thread's parent when @code{join()} is called.
545
546 @item
547 @b{Can I just cast a pointer to a @code{struct file} object to get a
548 unique file descriptor?  Can I just cast a @code{struct thread *} to a
549 @code{pid_t}?  It's so much simpler that way!}
550
551 This is a design decision you will have to make for yourself.
552 However, note that most operating systems do distinguish between file
553 descriptors (or pids) and the addresses of their kernel data
554 structures.  You might want to give some thought as to why they do so
555 before committing yourself.
556
557 @item
558 @b{Can I set a maximum number of open files per process?}
559
560 From a design standpoint, it would be better not to set an arbitrary
561 maximum.  That said, if your design calls for it, you may impose a
562 limit of 128 open files per process (as the Solaris machines here do).
563
564 @item
565 @b{What happens when two (or more) processes have a file open and one of
566 them removes it?}
567
568 You should copy the standard Unix semantics for files.  That is, when
569 a file is removed an process which has a file descriptor for that file
570 may continue to do operations on that descriptor.  This means that
571 they can read and write from the file.  The file will not have a name,
572 and no other processes will be able to open it, but it will continue
573 to exist until all file descriptors referring to the file are closed
574 or the machine shuts down.
575
576 @item
577 @b{What happens if a system call is passed an invalid argument, such
578 as Open being called with an invalid filename?}
579
580 Pintos should not crash.  Acceptable options include returning an
581 error value (for those calls that return a value), returning an
582 undefined value, or terminating the process.
583
584 @item
585 @b{I've discovered that some of my user programs need more than one 4
586 kB page of stack space.  What should I do?}
587
588 You may modify the stack setup code to allocate more than one page of
589 stack space for each process.
590
591 @item
592 @b{What do I need to print on thread completion?}
593
594 You should print the complete thread name (as specified in the
595 @code{SYS_exec} call) followed by the exit status code,
596 e.g.@: @samp{example 1 2 3 4: 0}.
597 @end enumerate
598 @end enumerate
599
600 @node 80x86 Calling Convention
601 @section 80@var{x}86 Calling Convention
602
603 What follows is a quick and dirty discussion of the 80@var{x}86
604 calling convention.  Some of the basics should be familiar from CS
605 107, and if you've already taken CS 143 or EE 182, then you should
606 have seen even more of it.  I've omitted some of the complexity, since
607 this isn't a class in how function calls work, so don't expect this to
608 be exactly correct in full, gory detail.  If you do want all the
609 details, you can refer to @cite{[SysV-i386]}.
610
611 Whenever a function call happens, you need to put the arguments on the
612 call stack for that function, before the code for that function
613 executes, so that the callee has access to those values.  The caller
614 has to be responsible for this (be sure you understand why).
615 Therefore, when you compile a program, the assembly code emitted will
616 have in it, before every function call, a bunch of instructions that
617 prepares for the call in whatever manner is conventional for the
618 machine you're working on.  This includes saving registers as needed,
619 putting stuff on the stack, saving the location to return to somewhere
620 (so that when the callee finishes, it knows where the caller code is),
621 and some other bookkeeping stuff.  Then you do the jump to the
622 callee's code, and it goes along, assuming that the stack and
623 registers are prepared in the appropriate manner.  When the callee is
624 done, it looks at the return location as saved earlier, and jumps back
625 to that location.  The caller may then have to do some cleanup:
626 clearing arguments and the return value off the stack, restoring
627 registers that were saved before the call, and so on.
628
629 If you think about it, some of these things should remind you of
630 context switching.
631
632 As an aside, in general, function calls are not cheap.  You have to do
633 a bunch of memory writes to prepare the stack, you need to save and
634 restore registers before and after a function call, you need to write
635 the stack pointer, you have a couple of jumps which probably wrecks
636 some of your caches.  This is why inlining code can be much faster.
637
638 @menu
639 * Argument Passing to main::    
640 @end menu
641
642 @node Argument Passing to main
643 @subsection Argument Passing to @code{main()}
644
645 In @code{main()}'s case, there is no caller to prepare the stack
646 before it runs.  Therefore, the kernel needs to do it.  Fortunately,
647 since there's no caller, there are no registers to save, no return
648 address to deal with, etc.  The only difficult detail to take care of,
649 after loading the code, is putting the arguments to @code{main()} on
650 the stack.
651
652 (The above is a small lie: most compilers will emit code where main
653 isn't strictly speaking the first function.  This isn't an important
654 detail.  If you want to look into it more, try disassembling a program
655 and looking around a bit.  However, you can just act as if
656 @code{main()} is the very first function called.)
657
658 Pintos is written for the 80@var{x}86 architecture.  Therefore, we
659 need to adhere to the 80@var{x}86 calling convention.  Basically, you
660 put all the arguments on the stack and move the stack pointer
661 appropriately.  You also need to insert space for the function's
662 ``return address'': even though the initial function doesn't really
663 have a caller, its stack frame must have the same layout as any other
664 function's.  The program will assume that the stack has been laid out
665 this way when it begins running.
666
667 So, what are the arguments to @code{main()}? Just two: an @samp{int}
668 (@code{argc}) and a @samp{char **} (@code{argv}).  @code{argv} is an
669 array of strings, and @code{argc} is the number of strings in that
670 array.  However, the hard part isn't these two things.  The hard part
671 is getting all the individual strings in the right place.  As we go
672 through the procedure, let us consider the following example command:
673 @samp{/bin/ls -l *.h *.c}.
674
675 The first thing to do is to break the command line into individual
676 strings: @samp{/bin/ls}, @samp{-l}, @samp{*.h}, and @samp{*.c}.  These
677 constitute the arguments of the command, including the program name
678 itself (which belongs in @code{argv[0]}).
679
680 These individual, null-terminated strings should be placed on the user
681 stack.  They may be placed in any order, as you'll see shortly,
682 without affecting how main works, but for simplicity let's assume they
683 are in reverse order (keeping in mind that the stack grows downward on
684 an 80@var{x}86 machine).  As we copy the strings onto the stack, we
685 record their (virtual) stack addresses.  These addresses will become
686 important when we write the argument vector (two paragraphs down).
687
688 After we push all of the strings onto the stack, we adjust the stack
689 pointer so that it is word-aligned: that is, we move it down to the
690 next 4-byte boundary.  This is required because we will next be
691 placing several words of data on the stack, and they must be aligned
692 in order to be read correctly.  In our example, as you'll see below,
693 the strings start at address @t{0xffed}.  One word below that would be
694 at @t{0xffe9}, so we could in theory put the next word on the stack
695 there.  However, since the stack pointer should always be
696 word-aligned, we instead leave the stack pointer at @t{0xffe8}.
697
698 Once we align the stack pointer, we then push the elements of the
699 argument vector, that is, a null pointer, then the addresses of the
700 strings @samp{/bin/ls}, @samp{-l}, @samp{*.h}, and @samp{*.c}) onto
701 the stack.  This must be done in reverse order, such that
702 @code{argv[0]} is at the lowest virtual address, again because the
703 stack is growing downward.  (The null pointer pushed first is because
704 @code{argv[argc]} must be a null pointer.)  This is because we are now
705 writing the actual array of strings; if we write them in the wrong
706 order, then the strings will be in the wrong order in the array.  This
707 is also why, strictly speaking, it doesn't matter what order the
708 strings themselves are placed on the stack: as long as the pointers
709 are in the right order, the strings themselves can really be anywhere.
710 After we finish, we note the stack address of the first element of the
711 argument vector, which is @code{argv} itself.
712
713 Then we push @code{argv} (that is, the address of the first element of
714 the @code{argv} array) onto the stack, along with the length of the
715 argument vector (@code{argc}, 4 in this example).  This must also be
716 done in this order, since @code{argc} is the first argument to
717 @code{main()} and therefore is on first (smaller address) on the
718 stack.  Finally, we push a fake ``return address'' and leave the stack
719 pointer to point to its location.
720
721 All this may sound very confusing, so here's a picture which will
722 hopefully clarify what's going on. This represents the state of the
723 stack and the relevant registers right before the beginning of the
724 user program (assuming for this example that the stack bottom is
725 @t{0xc0000000}):
726
727 @html
728 <CENTER>
729 @end html
730 @multitable {@t{0xbfffffff}} {``return address''} {@t{/bin/ls\0}}
731 @item Address @tab Name @tab Data
732 @item @t{0xbffffffc} @tab @code{*argv[3]} @tab @samp{*.c\0}
733 @item @t{0xbffffff8} @tab @code{*argv[2]} @tab @samp{*.h\0}
734 @item @t{0xbffffff5} @tab @code{*argv[1]} @tab @samp{-l\0}
735 @item @t{0xbfffffed} @tab @code{*argv[0]} @tab @samp{/bin/ls\0}
736 @item @t{0xbfffffec} @tab word-align @tab @samp{\0}
737 @item @t{0xbfffffe8} @tab @code{argv[4]} @tab @t{0}
738 @item @t{0xbfffffe4} @tab @code{argv[3]} @tab @t{0xbffffffc}
739 @item @t{0xbfffffe0} @tab @code{argv[2]} @tab @t{0xbffffff8}
740 @item @t{0xbfffffdc} @tab @code{argv[1]} @tab @t{0xbffffff5}
741 @item @t{0xbfffffd8} @tab @code{argv[0]} @tab @t{0xbfffffed}
742 @item @t{0xbfffffd4} @tab @code{argv} @tab @t{0xbffffffd8}
743 @item @t{0xbfffffd0} @tab @code{argc} @tab 4
744 @item @t{0xbfffffcc} @tab ``return address'' @tab 0
745 @end multitable
746 @html
747 </CENTER>
748 @end html
749
750 In this example, the stack pointer would be initialized to
751 @t{0xbfffffcc}.
752
753 As shown above, your code should start the stack at the very top of
754 the user virtual address space, in the page just below virtual address
755 @code{PHYS_BASE} (defined in @file{threads/mmu.h}).
756
757 You may find the non-standard @code{hex_dump()} function, declared in
758 @file{<stdio.h>}, useful for debugging your argument passing code.
759 Here's what it would show in the above example, given that
760 @code{PHYS_BASE} is @t{0xc0000000}:
761
762 @example
763 bfffffc0                                      00 00 00 00 |            ....|
764 bfffffd0  04 00 00 00 d8 ff ff bf-ed ff ff bf f5 ff ff bf |................|
765 bfffffe0  f8 ff ff bf fc ff ff bf-00 00 00 00 00 2f 62 69 |............./bi|
766 bffffff0  6e 2f 6c 73 00 2d 6c 00-2a 2e 68 00 2a 2e 63 00 |n/ls.-l.*.h.*.c.|
767 @end example
768
769 @node System Calls
770 @section System Calls
771
772 We have already been dealing with one way that the operating system
773 can regain control from a user program: interrupts from timers and I/O
774 devices.  These are ``external'' interrupts, because they are caused
775 by entities outside the CPU.
776
777 The operating system is also called to deal with software exceptions,
778 which are events generated in response to the code.  These can be
779 errors such as a page fault or division by zero.  However, exceptions
780 are also the means by which a user program can request services
781 (``system calls'') from the operating system.
782
783 In the 80@var{x}86 architecture, the @samp{int} instruction is the
784 most commonly used means for invoking system calls.  This instruction
785 is handled in the same way as other software exceptions.  In Pintos,
786 user programs invoke @samp{int $0x30} to make a system call.  The
787 system call number and any additional arguments are expected to be
788 pushed on the stack in the normal fashion before invoking the
789 interrupt.
790
791 The normal calling convention pushes function arguments on the stack
792 from right to left and the stack grows downward.  Thus, when the
793 system call handler @code{syscall_handler()} gets control, the system
794 call number is in the 32-bit word at the caller's stack pointer, the
795 first argument is in the 32-bit word at the next higher address, and
796 so on.  The caller's stack pointer is accessible to
797 @code{syscall_handler()} as the @samp{esp} member of the @code{struct
798 intr_frame} passed to it.
799
800 Here's an example stack frame for calling a system call numbered 10
801 with three arguments passed as 1, 2, and 3.  The stack addresses are
802 arbitrary:
803
804 @html
805 <CENTER>
806 @end html
807 @multitable {Address} {Value}
808 @item Address @tab Value
809 @item @t{0xbffffe7c} @tab 3
810 @item @t{0xbffffe78} @tab 2
811 @item @t{0xbffffe74} @tab 1
812 @item @t{0xbffffe70} @tab 10
813 @end multitable
814 @html
815 </CENTER>
816 @end html
817
818 In this example, the caller's stack pointer would be at
819 @t{0xbffffe70}.
820
821 The 80@var{x}86 convention for function return values is to place them
822 in the @samp{EAX} register.  System calls that return a value can do
823 so by modifying the @samp{eax} member of @code{struct intr_frame}.