Diff for /loncom/interface/lonstatistics.pm between versions 1.3 and 1.29

version 1.3, 2002/02/06 16:38:04 version 1.29, 2002/07/22 20:35:05
Line 27 Line 27
 #  #
 # (Navigate problems for statistical reports  # (Navigate problems for statistical reports
 # YEAR=2001  # YEAR=2001
 # 5/05/01, 7/09/01, 7/25/01, 8/11/01,9/13/01, 9/26/01 Behrouz Minaei  # 5/5,7/9,7/25/1,8/11,9/13,9/26,10/5,10/9,10/22,10/26 Behrouz Minaei
 # 10/5/01, 10/9/01, 10/22/01, 10/26/01 Behrouz Minaei  # 11/1,11/4,11/16,12/14,12/16,12/18,12/20,12/31 Behrouz Minaei
 # 11/1/01, 11/4/01, 11/16/01 Behrouz Minaei  
 # 12/14/01, 12/16/01, 12/18/01,12/20/01,12/31/01 Behrouz Minaei  
 # YEAR=2002  # YEAR=2002
 # 1/22/02,2/1/02 Behrouz Minaei  # 1/22,2/1,2/6,2/25,3/2,3/6,3/17,3/21,3/22,3/26,4/7,5/6 Behrouz Minaei
   # 5/12,5/14,5/15,5/19,5/26,7/16  Behrouz Minaei
   #
 ###  ###
   
 package Apache::lonstatistics;   package Apache::lonstatistics; 
   
 use strict;  use strict; 
 use Apache::Constants qw(:common :http);  use Apache::Constants qw(:common :http);
 use Apache::lonnet();  use Apache::lonnet();
 use Apache::lonhomework;  use Apache::lonhomework;
   use Apache::loncommon;
   use Apache::loncoursedata;
   use Apache::lonhtmlcommon;
   use Apache::lonchart;
 use HTML::TokeParser;  use HTML::TokeParser;
 use GDBM_File;  use GDBM_File;
 #use Benchmark;  
   
 # -------------------------------------------------------------- Module Globals  # -------------------------------------------------------------- Module Globals
 my %hash;  my %hash;
 my %CachData;  my %CachData;
 my %GraphDat;  my %GraphDat;
 my %maps;  
 my @mapsort;  
 my %section;  
 my %StuBox;  
 my %DiscFac;  
 my $CurMap;  
 my $CurSec;  
 my $CurStu;  
 my @cols;  
 my @list;  
 my @students;  
 my $p_count;  
 my $Pos;  
 my $r;  my $r;
 my $OpSel1;  
 my $OpSel2;  
 my $OpSelDis1;  
 my $OpSelDis2;  
 my $CurDis=0;  
 my $OpSel3;  
 my $OpSel4;  
 my $GData;  my $GData;
 my $cid;  my %color;
 my $firstres;  my %foil_to_concept;
 my $lastres;  my @Concepts;
 my $DiscFlag=0;  my %ConceptData;
 my $HWN=0;  my %Answer=();
   my %mapsort;
 my %Header = (0,"Problem Title",1,"#Stdnts",2,"Tries",3,"Mod",  
               4,"Mean",5,"#YES",6,"#yes",7,"%Wrng",8,"S.D.",  my %Activity=();
               9,"Skew.",10,"DoDiff",11,"Map");  my %Grade=();
 #             9,"Skew.",10,"DoDiff",11,"Dis.F.",12,"Resourse URL");  my %DoDiff=();
   my %Discuss=();
   my $TotalDiscuss=0;
   my $TotalDiscuss_=0;
   
   
   sub LoadDiscussion {
   #    my $symb=shift;
   #    $r->print('<br>$cid ... '.$symb);
   #    my %contrib=&Apache::lonnet::dump('msu_2964385f9033c63msul1','msu','2964385f9033c63msul1');
       my $cid=$ENV{'request.course.id'};
       my %contrib=&Apache::lonnet::dump(
                   $ENV{'request.course.id'},
                   $ENV{'course.'.$ENV{'request.course.id'}.'.domain'},
                   $ENV{'course.'.$ENV{'request.course.id'}.'.num'});
                               
       foreach my $temp(keys %contrib) {
    if ($temp=~/^version/) {
       my $ver=$contrib{$temp};
       my ($dummy,$prb)=split(':',$temp);
       for (my $idx=1; $idx<=$ver; $idx++ ) {
    my $name=$contrib{"$idx:$prb:sendername"};
    $Discuss{"$name:$prb"}=$idx;
       }
    }
       }       
   #   $r->print('<br>cid='.$cid);
   #    my %contrib=&Apache::lonnet::restore($symb,$cid,
   # $ENV{$cid.'.domain'},
   # $ENV{'course.'.$cid.'.num'});
   
   #    $Apache::lonxml::debug=1;
   #    &Apache::lonhomework::showhash(%Discuss);
   #    $Apache::lonxml::debug=0;
   }
   
 sub NumericSort {            sub LoadDoDiffFile {
     $a <=> $b;      my $file="/home/minaeibi/183d.txt";
       open(FILEID, "<$file");
       my $line=<FILEID>;
       %DoDiff=();
       my @Act=split('&',$line);
       
   #    $r->print('<br>'.$#Act);
       for(my $n=0;$n<=$#Act;$n++){
          my ($res,$Degree)=split('@',$Act[$n]);
         $DoDiff{$res}=$Degree;
       }
 }  }
   
 # ------ Create different Student Report   
 sub StudentReport {  sub LoadClassFile {
     my ($sname,$sdom)=@_;      my $file="/home/minaeibi/class.txt";
     if ( $sname eq 'All Students' ) {      open(FILEID, "<$file");
  $r->print( '<h3><font color=blue>WARNING:       my $line;
                     Please select a student</font></h3>' );      %Grade=();
  return;      while ($line=<FILEID>) {
           my ($id,$ex1,$ex2,$ex3,$ex4,$hw,$final,$grade)=split(' ',$line);
           $Grade{$id}=$grade;
     }      }
     my $shome=&Apache::lonnet::homeserver( $sname,$sdom );            }
     my $reply=&Apache::lonnet::reply('dump:'.$sdom.':'.$sname.':'.$cid,$shome );  
     my %result = ();  
     my $ResId;  #------- Classification  
     my $Code;  sub Classify {
     my $Tries;      my ($DiscFac, $students)=@_;
     my $TotalTries = 0;      &LoadClassFile();
     my $ParCr = 0;      my $Count=0;
     my $Wrongs;      my @List=();
     my %TempHash;      my @LS=();
     my $Version;      my @LF=();
     my $LatestVersion;      my @LM=();
     my $PtrTry='';      my $cf=0;
     my $PtrCod='';      my $cs=0;
     my $SetNo=0;      my $cm=0;
       foreach (keys(%$DiscFac)){  
    my @l=split(/\:/,$_);
    if (!($students->{$l[1]})) {next;}
    my $Grade=$Grade{$students->{$l[1]}};
    if( $Grade > 3 ) {
       $cs++;
       push(@LS,("$l[6],$l[5],$l[4],$l[7],$l[8],$l[9],Successful"));
    } elsif ( $Grade > 2 ) {
       $cm++;
       push(@LM,("$l[6],$l[5],$l[4],$l[7],$l[8],$l[9],Average"));
    } else {
       $cf++;
       push(@LF,("$l[6],$l[5],$l[4],$l[7],$l[8],$l[9],Failed"));
    }
       }    
       for(my $n=0;$n<$cs;$n++){$r->print('<br>'.$LS[$n]);}
       for(my $n=0;$n<$cm;$n++){$r->print('<br>'.$LM[$n]);}  
       for(my $n=0;$n<$cf;$n++){$r->print('<br>'.$LF[$n]);}
   } 
   
   
   sub ProcAct {
       # return;
       my ($Act,$Submit)=@_;
       my @Act=split(/\@/,$Act);
       @Act = sort(@Act);
   
       ##$r->print('<br>'.$#Act);
       ##for(my $n=0;$n<=$#Act;$n++){
   ## $r->print('<br>n='.$n.')'.$Act[$n]);
   ##    }
   
   #    my $Beg=$Act[0];
       my $Dif=$Submit-$Act[0];
       $Dif = ($Dif>0) ? ($Dif/3600) : 0; 
   
   #    $r->print('<br>Access Number = '.$#Act.'<br>Submit Time='.$Submit.'<br>First Access='.$Act[0].'<br>Last Access='.$Act[$#Act].'<br> Submit - First = <b>'.$Dif.'</b>');
   
   
   #time spent for solving the problem           
   #    $r->print('<br>Def'.($Act[$#Act-1]-$Act[0]));
   
       return $Dif;
   }
   
   
   
   sub LoadActivityLog {
   #    my $CacheDB = "/home/minaeibi/act183.log.cache";
       my $CacheDB = "/home/httpd/perl/tmp/act183.log.cache";
       
       if (-e "$CacheDB") {
    if (tie(%Activity,'GDBM_File',"$CacheDB",&GDBM_READER,0640)) {
       return;
           }
           else {
       $r->print("Unable to tie log Cache hash to db file");
           }
       }
       else {
    if (tie(%Activity,'GDBM_File',$CacheDB,&GDBM_WRCREAT,0640)) {
       foreach (keys %Activity) {delete $Activity{$_};}
       &Build_log(); 
    }
           else {
       $r->print("Unable to tie log Build hash to db file");
           }
       }
   }
   
   sub Build_log {
       my $file="/home/minaeibi/act183.log";
       open(FILEID, "<$file");
       my $line;
       my $count=0;
       while ($line=<FILEID>) {
    my ($time,$machine,$what)=split(':',$line);
    $what=&Apache::lonnet::unescape($what);
    my @accesses=split('&',$what);
              
    foreach my $access (@accesses) {
   
       $count++;
   
       my ($date,$resource,$who,$domain,$post,@posts)=split(':',$access);
       if (!$resource) { next; }
       my $res=&Apache::lonnet::unescape($resource);
       if (($res =~ /\.problem/)) {
    $Activity{$who.':'.$res}.=$date.'@';
                   #$r->print('<br>'.$time.':'.$who.'---'.$res);
    &Update_PrgInit($count);
   
       }
    }
       }
   
   # my $c=1;
   # foreach (sort keys %Activity) {
   #     $r->print('<br>'.$c.')'.$_.' ... '.$Activity{$_});
   #     $c++;
   # }
   
   }
   
   sub Activity {
   #    $rid=~/(\d+)\.(\d+)/;
   #    my $MapId=$1;
   #    my $PrbId=$2;
   #    my $MapOrg = $hash{'map_id_'.$MapId};
   #    my $Map = &Apache::lonnet::declutter($MapOrg);
   #    my $URI = $hash{'src_'.$rid};
   #    my $Symb = $Map.'___'.$PrbId.'___'.&Apache::lonnet::declutter($URI);
       my $file="/home/minaeibi/activity.log";
       my $userid='adamsde1';
       $r->print("<br>Using $file");
       $r->rflush();
       open(FILEID, "<$file");
       my $line;
       my @allaccess;
       my $Count=0;
       while ($line=<FILEID>) {
    my ($time,$machine,$what)=split(':',$line);
    $what=&Apache::lonnet::unescape($what);
    my @accesses=split('&',$what);
    foreach my $access (@accesses) {
       my ($date,$resource,$who,$domain,$post,@posts)=split(':',$access);
       #if ($who ne $userid) { next; }
       if (!$resource) { next; }
       my $res=&Apache::lonnet::unescape($resource);
       if (($res =~ /\.(sequence|problem|htm|html|page)/)) {
        $Count++;
    $r->print("<br>$Count) ".localtime($date).": $who --> $res");
   #        if ($post) { 
   #    $Count++;
   #    $r->print("<br><b>$Count) Sent data ".join(':',
   #                              &Apache::lonnet::unescape(@posts)).'</b>');
   # }
    $r->rflush();
       }
       #push (@allaccess,unescape($access));
       #print $machine;
    }
       }
   #    @allaccess=sort(@allaccess);
   #    $Count=0;
   #    foreach my $access (@allaccess) {
   # my ($date,$resource,$who,$domain,$post,@posts)=split(':',$access);
   # $Count++;
   # $r->print("<br>$Count) $date: $who --> $resource");
   # $r->rflush();
   # if ($post) { 
   #    $r->print("<br><b>Sent data ".join(':',unescape(@posts)).'</b>');
   # }
   #    }
   }
   
   
   sub InitAnalysis {
       my ($uri,$part,$problem,$student,$courseID)=@_;
       my ($uname,$udom)=split(/\:/,$student);
   
   
       # Render the student's view of the problem.  $Answ is the problem 
       # Stringafied
       my $Answ=&Apache::lonnet::ssi($uri,('grade_target' => 'analyze',
                                     'grade_username' => $uname,
                                     'grade_domain' => $udom,
                                     'grade_courseid' => $courseID,
                                     'grade_symb' => $problem));
   #    my $Answ=&Apache::lonnet::ssi($URI,('grade_target' => 'analyze'));
   
   #    (my $garbage,$Answ)=split(/_HASH_REF__/,$Answ,2);
       %Answer=();
       %Answer=&Apache::lonnet::str2hash($Answ);
   
       my $parts='';
       foreach my $elm (@{$Answer{"parts"}}) {
    $parts.="$elm,";
       }
       chop($parts);
       my $conc='';
       foreach my $elm (@{$Answer{"$parts.concepts"}}) {
    $conc.="$elm@";
       }
       chop($conc);
   
       @Concepts=split(/\@/,$conc);
       foreach my $concept (@{$Answer{"$parts.concepts"}}) {
    foreach my $foil (@{$Answer{"$parts.concept.$concept"}}) {
       $foil_to_concept{$foil} = $concept;
       #$ConceptData{$foil} = $Answer{"$parts.foil.value.$foil"};
    }
       }
   
       return;
   }
   
   
   sub Interval {
       my ($part,$symb)=@_;
       my $Int=$ConceptData{"Interval"};
       my $due = &Apache::lonnet::EXT('resource.$part.duedate',$symb)+1;
       my $opn = &Apache::lonnet::EXT('resource.$part.opendate',$symb);
       my $add=int(($due-$opn)/$Int);
       $ConceptData{"Int.0"}=$opn;
       for (my $i=1;$i<$Int;$i++) {
    $ConceptData{"Int.$i"}=$opn+$i*$add;
       }
       $ConceptData{"Int.$Int"}=$due;     
       for (my $i=0;$i<$Int;$i++) {
    for (my $n=0; $n<=$#Concepts; $n++ ) {
       my $tmp=$Concepts[$n];
       $ConceptData{"$tmp.$i.true"}=0;
       $ConceptData{"$tmp.$i.false"}=0;
    }
       }
   }
   
   
   sub ShowOpGraph {
       my ($cache, $students, $courseID)=@_;
       my $uri      = $cache->{'AnalyzeURI'};
       my $part     = $cache->{'AnalyzePart'};
       my $problem  = $cache->{'AnalyzeProblem'};
       my $title    = $cache->{'AnalyzeTitle'};
       my $interval = $cache->{'Interval'};
       $ConceptData{"Interval"} = $interval;
   
       #Initialize the option response true answers
       &InitAnalysis($uri, $part, $problem, $students->[0],$courseID);
   
       #compute the intervals
       &Interval($part,$problem);
   
       $title =~ s/\ /"_"/eg;
       $r->print('<br><b>'.$uri.'</b>');
       $r->rflush();
            
       #Java script Progress window
       &Create_PrgWin();
       &Update_PrgWin("Starting-to-analyze-problem");
       for (my $index=0;$index<(scalar @$students);$index++) {
    &Update_PrgWin($index);
    &OpStatus($problem,$students->[$index],$courseID);
       }
       &Close_PrgWin();
   
       $r->print('<br>');
       for (my $k=0; $k<$interval; $k++ ) {
    &DrawGraph($k,$title);
       }
       for (my $k=0; $k<$interval; $k++ ) {
    &DrawTable($k);
       }
   #$Apache::lonxml::debug=1;
   #&Apache::lonhomework::showhash(%ConceptData);
   #$Apache::lonxml::debug=0;
       my $Answ=&Apache::lonnet::ssi($uri);
       $r->print("<br><b>Here you can see the Problem:</b><br>$Answ");
   }
   
   
   sub DrawTable {
       my $k=shift;
       my $Max=0;
       my @data1;
       my @data2;
       my $Correct=0;
       my $Wrong=0;
       for (my $n=0; $n<=$#Concepts; $n++ ) {
    my $tmp=$Concepts[$n];
    $data1[$n]=$ConceptData{"$tmp.$k.true"};
    $Correct+=$data1[$n];
    $data2[$n]=$ConceptData{"$tmp.$k.false"};
    $Wrong+=$data2[$n];
    my $Sum=$data1[$n]+$data2[$n];
    if ( $Max<$Sum ) {$Max=$Sum;}
       }
       for (my $n=0; $n<=$#Concepts; $n++ ) {
    if ($data1[$n]+$data2[$n]<$Max) {
       $data2[$n]+=$Max-($data1[$n]+$data2[$n]);
    }
       }
       my $P_No = $#data1+1;
   #    $r->print('<br><b>From: ['.localtime($ConceptData{'Int.'.($k-1)}).
   #              '] To: ['.localtime($ConceptData{"Int.$k"}).']</b>'); 
     my $Str = "\n".'<table border=2>'.      my $Str = "\n".'<table border=2>'.
               "\n".'<tr>'.                "\n".'<tr>'.
               "\n".'<th> # </th>'.                "\n".'<th> # </th>'.
       "\n".'<th> Set Title </th>'.        "\n".'<th> Concept </th>'.
       "\n".'<th> Results </th>'.        "\n".'<th> Correct </th>'.
       "\n".'<th> Tries </th>'.        "\n".'<th> Wrong </th>'.
       "\n".'</tr>';        "\n".'</tr>';
     unless ($reply=~/^error\:/) {  
         map {  
             my ($name,$value)=split(/\=/,&Apache::lonnet::unescape($_));  
             $result{$name}=$value;  
         } split(/\&/,$reply);;  
         foreach $ResId (@cols) {  
     if ( !$ResId ) {  
  my $Set=&Apache::lonnet::declutter($hash{'map_id_'.$1});  
  if ( $Set ) {  
     $SetNo++;  
     $Str .= "\n"."<tr>".  
     "\n"."<td> $SetNo </td>".  
                             "\n"."<td> $Set </td>".  
                             "\n"."<td> $PtrCod </td>".  
                             "\n"."<td> $PtrTry</td>".  
                             "\n"."</tr>";  
  }  
  $PtrTry='';  
  $PtrCod='';  
  next;   
     }  
             $ResId=~/(\d+)\.(\d+)/;  
             my $Map = &Apache::lonnet::declutter( $hash{'map_id_'.$1} );  
             if ( $CurMap ne 'All Maps' ) {  
  my ( $ResMap, $NameMap ) = split(/\=/,$CurMap);  
  if ( $Map ne $ResMap ) { next; }  
     }  
     my $meta=$hash{'src_'.$ResId};  
     my $PartNo = 0;  
     undef %TempHash;  
     map {  
  if ($_=~/^stores\_(\d+)\_tries$/) {  
                     my $Part=&Apache::lonnet::metadata($meta,$_.'.part');  
     if ( $TempHash{"$Part"} eq '' ) {   
  $TempHash{"$Part"} = $Part;  
  $TempHash{$PartNo}=$Part;  
  $TempHash{"$Part.Code"} = '-';    
  $PartNo++;  
     }  
  }  
             } split(/\,/,&Apache::lonnet::metadata($meta,'keys'));  
   
             my $Prob = $Map.'___'.$2.'___'.      for (my $n=0; $n<=$#Concepts; $n++ ) {
                        &Apache::lonnet::declutter( $hash{'src_'.$ResId} );   $Str .= "\n"."<tr>".
             $Code='U';          "\n"."<td>".($n+1)."</td>".
             $Tries = 0;                  "\n".'<td bgcolor='.$color{"yellow"}.'> '.$Concepts[$n]." </td>".
             $Wrongs = 0;                  "\n".'<td bgcolor='.$color{"green"}.'> '.$data1[$n]." </td>".
      $LatestVersion = $result{"version:$Prob"};                         "\n".'<td bgcolor='.$color{"red"}.'> '.$data2[$n]." </td>".
                   "\n"."</tr>";
     if ( $LatestVersion ) {      }
  for ( my $Version=1; $Version<=$LatestVersion; $Version++ ) {      $Str.='<td></td><td><b>From:['.localtime($ConceptData{'Int.'.$k}).
     my $vkeys = $result{"$Version:keys:$Prob"};            '] To: ['.localtime($ConceptData{'Int.'.($k+1)}-1).
     my @keys = split(/\:/,$vkeys);            "]</b></td><td>$Correct</td><td>$Wrong</td>";
     
     foreach my $Key (@keys) {    
  if (($Key=~/\.(\w+)\.solved$/) && ($Key!~/^\d+\:/)) {  
     my $Part = $1;  
     $Tries = $result{"$Version:$Prob:resource.$Part.tries"};  
     $TempHash{"$Part.Tries"} = ($Tries) ? $Tries : 0;   
     $TotalTries += $Tries;  
     my $Val = $result{"$Version:$Prob:resource.$Part.solved"};  
     if ( $Val eq 'correct_by_student' )  
                                 { $Wrongs = $Tries - 1; $Code = 'Y'; }   
     elsif ( $Val eq 'correct_by_override' )  
                                 { $Wrongs = $Tries - 1; $Code = 'y'; }                          
     elsif ( $Val eq 'incorrect_attempted' ||   
                                 $Val eq 'incorrect_by_override' )  
                 { $Wrongs = $Tries; $Code = 'N'; }  
     $TempHash{"$Part.Code"} = $Code;  
     $TempHash{"$Part.Wrongs"} = $Wrongs;  
  }  
          }  
                 }   
  for ( my $n = 0; $n < $PartNo; $n++ ) {    
     my $part = $TempHash{$n};  
     if ($PtrTry ne '') {$PtrTry .= ',';}  
     $PtrTry .= "$TempHash{$part.'.Tries'}";  
                     $PtrCod .= "$TempHash{$part.'.Code'}";      
  }  
             }  
     else {   
  for(my $n=0; $n<$PartNo; $n++) {   
     if ($PtrTry ne '') {$PtrTry .= ',';}  
     $PtrTry .= "0";  
                     $PtrCod .= "-";   
  }  
     }  
         }  
     }  
     $Str .= "\n".'</table>';      $Str .= "\n".'</table>';
   
     $r->print($Str);      $r->print($Str);
     $r->rflush();  #$Apache::lonxml::debug=1;
   #&Apache::lonhomework::showhash(%ConceptData);
   #$Apache::lonxml::debug=0;
 }  }
   
   
 # ------------------------------------------- Prepare Statistics Table  sub DrawGraph {
 sub PreStatTable {      my ($k,$Src)=@_;
     my $CacheDB = "/home/httpd/perl/tmp/$ENV{'user.name'}".      my $Max=0;
                   "_$ENV{'user.domain'}_$cid\_statistics.db";      my @data1;
     my $GraphDB = "/home/httpd/perl/tmp/$ENV{'user.name'}".      my @data2;
                   "_$ENV{'user.domain'}_$cid\_graph.db";  
     my $CachDisFac = "/home/httpd/perl/tmp/$ENV{'user.name'}".      # Adjust Data and find the Max 
      "_$ENV{'user.domain'}_$cid\_DiscFactor.db";      for (my $n=0; $n<=$#Concepts; $n++ ) {
     $r->print('<br><input type="submit" name="sort" value="Recalculate Statistics" />');   my $tmp=$Concepts[$n];
    $data1[$n]=$ConceptData{"$tmp.$k.true"};
    $data2[$n]=$ConceptData{"$tmp.$k.false"};
    my $Sum=$data1[$n]+$data2[$n];
    if ( $Max<$Sum ) {$Max=$Sum;}
       }
       for (my $n=0; $n<=$#Concepts; $n++ ) {
    if ($data1[$n]+$data2[$n]<$Max) {
       $data2[$n]+=$Max-($data1[$n]+$data2[$n]);
    }
       }
       my $P_No = $#data1+1;
   
     my $Ptr = '';      if ( $Max > 1 ) { 
    $Max += (10 - $Max % 10);
    $Max = int($Max);
       } else { $Max = 1; }
   
       my $Titr=($ConceptData{'Interval'}>1) ? $Src.'_interval_'.($k+1) : $Src;
   #    $GData=$Titr.'&Concepts'.'&'.'Answers'.'&'.$Max.'&'.$P_No.'&'.$data1.'&'.$data2;
       $GData="$Titr&Concepts&Answers&$Max&$P_No&".
              (join(',',@data1)).'&'.(join(',',@data2));
   
     $Ptr .= '<br><b> Sorting Type: &nbsp; </b>'."\n".      $r->print('<IMG src="/cgi-bin/graph.gif?'.$GData.'" border=1/>');
             '<select name="order"> <option '.$OpSel1.' >Ascending</option>'."\n".  }
     '<option '.$OpSel2.'>Descending</option> </select> '."\n";  
     $Ptr .= '&nbsp;&nbsp;&nbsp;';  
     $Ptr .= '<input type="submit" name="sort" value="DoDiff Graph" />'."\n";  
     $Ptr .= '&nbsp;&nbsp;&nbsp;';  
     $Ptr .= '<input type="submit" name="sort" value="%Wrong Graph" />'."\n";  
   
     $Ptr .= '<pre>'.  
     '  #Stdnts: Total Number of Students opened the problem.<br>'.   
     '  Tries  : Total Number of Tries for solving the problem.<br>'.   
     '  Mod    : Maximunm Number of Tries for solving the problem.<br>'.   
     '  Mean   : Average Number of the tries. [ Tries / #Stdns ]<br>'.  
     '  #YES   : Number of students solved the problem correctly.<br>'.   
     '  #yes   : Number of students solved the problem by override.<br>'.  
     '  %Wrng  : Percentage of students tried to solve the problem but'.  
     ' still incorrect. [ 100*((#Stdnts-(#YES+#yes))/#Stdnts) ]<br>'.  
     '  S.D.   : Standard Deviation of the tries.'.  
     '[ sqrt(sum((Xi - Mean)^2)) / (#Stdnts-1)'.  
     ' where Xi is every student\'s tries ]<br>'.  
     '  Skew.  : Skewness of the students tries.'.  
     ' [ (sqrt( sum((Xi - Mean)^3) / #Stdnts)) / (S.D.^3) ]<br>'.  
 #    '  DoDiff : Degree of Difficulty of the problem. [ Tries/(#YES+#yes+0.1) ]<br>'.  
     '  DoDiff : Degree of Difficulty of the problem. [ 1 - ((#YES+#yes) / Tries) ]<br>'.  
 #    '  Dis.F. : Discrimination Factor. [ Sum of Partial Credits Awarded / Total Number of Tries in %27 upper and lower students]</b>'.  
             '</pre>';  
   
     $r->print($Ptr);  sub Decide {
     $r->rflush();      #deciding the true or false answer belongs to each interval
             my ($type,$foil,$time)=@_; 
     my $Result = "\n".'<table border=2>';      my $k=0;
     $Result .= '<tr><th>P#</th>'."\n";      while ($time>$ConceptData{'Int.'.($k+1)} && 
     for ( my $nIdx=0; $nIdx < 12; $nIdx++ ) {              $k<$ConceptData{'Interval'}) {$k++;}
  $Result .= '<th>'.'<input type="submit" name="sort" value="'.      $ConceptData{"$foil_to_concept{$foil}.$k.$type"}++;
                    $Header{$nIdx}.'" />'.'</th>'."\n";  }
     }  
     $Result .= "\n".'</tr>'."\n";      
     $r->print( $Result );  
     $r->rflush();  
   
     if ((-e "$CacheDB")&&($ENV{'form.sort'} ne 'Recalculate Statistics')) {  #restore the student submissions and finding the result
  if (tie(%CachData,'GDBM_File',"$CacheDB",&GDBM_READER,0640)) {  sub OpStatus {
     tie(%GraphDat,'GDBM_File',$GraphDB,&GDBM_WRCREAT,0640);      my ($problem, $student, $courseID)=@_;
     &Cache_Statistics();      my ($username,$userdomain)=split(/':'/,$student);
         }      my $code='U';
         else {      my %reshash=&Apache::lonnet::restore($problem, $courseID, $userdomain, 
     $r->print("Unable to tie hash to db file");                                           $username);
       my @True = ();
       my @False = ();
       my $flag=0;
       if ($reshash{'version'}) {
           my $tries=0;
    &Apache::lonhomework::showhash(%Answer);
    for (my $version=1;$version<=$reshash{'version'};$version++) {
       my $time=$reshash{"$version:timestamp"};
      
       foreach my $key (sort(split(/\:/,$reshash{$version.':keys'}))) {
    if (($key=~/\.(\w+)\.(\w+)\.submission$/)) {
       my $Id1 = $1; my $Id2 = $2;
       #check if this is a repeat submission, if so skip it
                if ($reshash{"$version:resource.$Id1.previous"}) { next; }
       #if no solved this wasn't a real submission, ignore it
       if (!defined($reshash{"$version:resource.$Id1.solved"})) {
    &Apache::lonxml::debug("skipping ");
    next;
       }
       my $Resp = $reshash{"$version:$key"};
       my %submission=&Apache::lonnet::str2hash($Resp);
       foreach (keys %submission) {
    my $Ansr = $Answer{"$Id1.$Id2.foil.value.$_"};
    if ($submission{$_}) {
       if ($submission{$_} eq $Ansr) {
    &Decide("true",$_,$time );
       }
       else {&Decide("false",$_,$time );}
    }
       }
           }  
       }
         }          }
     }      }
     else {  }
  if (tie(%CachData,'GDBM_File',$CacheDB,&GDBM_WRCREAT,0640)) {  
     tie(%DiscFac,'GDBM_File',$CachDisFac,&GDBM_WRCREAT,0640);  
     tie(%GraphDat,'GDBM_File',$GraphDB,&GDBM_WRCREAT,0640);  #---- END Analyze Web Page ----------------------------------------------
     foreach (keys %DiscFac) {delete $CachData{$_};}  
     foreach (keys %CachData) {delete $CachData{$_};}  #---- Problem Statistics Web Page ---------------------------------------
     $DiscFlag=0;  
     &Build_Statistics();  #------- Processing upperlist and lowerlist according to each problem
  }  sub ProcessDiscriminant {
         else {      my ($List) = @_;
     $r->print("Unable to tie hash to db file");      my @sortedList = sort (@$List);
       my $Count = scalar @sortedList;
       my $Problem;
       my @Dis;
       my $Slvd=0;
       my $tmp;
       my $Sum1=0;
       my $Sum2=0;
       my $nIndex=0;
       my $nStudent=0;
       my %Proc=undef;
       while ($nIndex<$Count) {
    ($Problem,$tmp)=split(/\=/,$sortedList[$nIndex]);
    @Dis=split(/\+/,$tmp);
    my $Temp = $Problem;
    do {
       $nIndex++;
       $nStudent++;
       $Sum1 += $Dis[0];
       $Sum2 += $Dis[1];
       ($Problem,$tmp)=split(/\=/,$sortedList[$nIndex]);
       @Dis=split(/\+/,$tmp);
    } while ( $Problem eq $Temp && $nIndex < $Count );
   # $Proc{$Temp}=($Sum1/$nStudent).':'.$nStudent;
    $Proc{$Temp}=($Sum1/$nStudent).':'.($Sum2/$nStudent);
   #       $r->print("$nIndex) $Temp --> ($nStudent) $Proc{$Temp} <br>");
    $Sum1=0;
    $Sum2=0;
    $nStudent=0;
       }
   
       return %Proc;
   }
   
   
   
   #------- Creating Discimination factor   
   sub Discriminant {
       my ($discriminantFactor)=@_;
       my @discriminantKeys=keys(%$discriminantFactor);
       my $Count = scalar @discriminantKeys;
   
       my $UpCnt = int(0.27*$Count);
       my $low=0;
       my $up=$Count-$UpCnt;
       my @UpList=();
       my @LowList=();
   
       $Count=0;
       foreach my $key (sort(@discriminantKeys)) { 
    $Count++;    
    if($low < $UpCnt || $Count > $up) {
               $low++;
               my $str=$discriminantFactor->{$key};
               foreach(split(/\:/,$str)){
                   if($_) {
                       if($low<$UpCnt) { push(@LowList,$_); }
                       else            { push(@UpList,$_);  }
                   }
               }
         }          }
     }      }
     #$r->print('Total instances of the problems : '.($p_count*($#students+1)));      my %DisUp =  &ProcessDiscriminant(\@UpList);
       my %DisLow = &ProcessDiscriminant(\@LowList);
   
     untie(%CachData);      return (\%DisUp, \%DisLow);
     untie(%GraphDat);  }
     untie(%DiscFac);  
   
     $r->print("\n".'</table>'."\n");     
     $r->rflush();          sub NumericSort {          
       $a <=> $b;
 }  }
   
   
 # ------------------------------------- Find the section of student in a course  sub CreateProblemStatisticsTableHeading {
       my ($displayFormat,$sequenceSource,$sequenceTitle,$headings)=@_;
       if($displayFormat eq 'Display CSV Format') {
           $r->print('<br>"'.$sequenceTitle.'","');
           $r->print($sequenceSource.'"');
    return;
       }
   
       $r->print('<br><a href="'.$sequenceSource.
                 '" target="_blank">'.$sequenceTitle.'</a>');
   
 sub usection {      my $Result = "\n".'<table border=2><tr><th>P#</th>'."\n";
     my ($udom,$unam,$courseid)=@_;      for(my $nIndex=0; $nIndex < (scalar (keys %$headings)); $nIndex++) { 
     $courseid=~s/\_/\//g;   $Result .= '<th>'.'<input type="submit" name="';
     $courseid=~s/^(\w)/\/$1/;          $Result .= 'ProblemStatisticsHeading" value="';
     map {          $Result .= $headings->{$nIndex}.'" />'.'</th>'."\n";
         my ($key,$value)=split(/\=/,$_);      }
         $key=&Apache::lonnet::unescape($key);      $Result .= "\n".'</tr>'."\n";    
         if ($key=~/^$courseid(?:\/)*(\w+)*\_st$/) {      $r->print($Result);
             my $section=$1;      $r->rflush();
             if ($key eq $courseid.'_st') { $section=''; }  
     my ($dummy,$end,$start)=split(/\_/,&Apache::lonnet::unescape($value));  
             $section=($section) ? $section : '(none)';  
             $section=(int($section)) ? int($section) : $section;  
 #            $r->print($unam.'...'.$section.'<br>');  
     return $section;  
         }  
     } split(/\&/,&Apache::lonnet::reply('dump:'.$udom.':'.$unam.':roles',  
                         &Apache::lonnet::homeserver($unam,$udom)));  
     return '';  
 }  }
   
   sub CloseTable {
       my ($cache)=@_;
       if($cache->{'DisplayFormat'} eq 'Display CSV Format') {
    return;
       }    
       $r->print("\n".'</table>'."\n");
       $r->rflush();
   }
   
 # ------ Dump the Student's DB file and handling the data for statistics table   
   
    
   # ------ Dump the Student's DB file and handling the data for statistics table 
 sub ExtractStudentData {  sub ExtractStudentData {
     my ($student,$coid)=@_;      my ($cache,$name,$list)=@_;
     my ($sname,$sdom) = split( /\:/, $student );      my %discriminantFactor;
     my $shome=&Apache::lonnet::homeserver( $sname,$sdom );            
     my $reply=&Apache::lonnet::reply('dump:'.$sdom.':'.$sname.':'.$coid,$shome );      my $totalTries = 0;
     my %result = ();      my $totalAwarded = 0;
     my $ResId;      my $tempProblemOrder=0;
     my $Dis = '';      my $spent=0;
     my $Code;      my $spent_yes=0;
     my $Tries;      my $TotDiscuss=0;
     my $ParCr;  
     my $TotalTries = 0;  
     my $TotalOpend = 0;      my $TotalOpend = 0;
     my $ProbSolved = 0;      my $ProbSolved = 0;
     my $ProbTot = 0;      my $ProbTot = 0;
       my $TotFirst = 0;
     my $TimeTot = 0;      my $TimeTot = 0;
     my $TotParCr = 0;      my $Discussed=0;
     my $Wrongs;  
     my %TempHash;  
     my $Version;  
     my $LatestVersion;  
     my $SecLimit;  
     my $MapLimit;  
     unless ($reply=~/^error\:/) {  
         map {  
             my ($name,$value)=split(/\=/,&Apache::lonnet::unescape($_));  
             $result{$name}=$value;  
 #$r->print($name.'='.$value.'<br>');  
         } split(/\&/,$reply);  
         foreach $ResId (@cols) {  
     if ( !$ResId ) { next; }  
             $ResId=~/(\d+)\.(\d+)/;  
             my $Map = &Apache::lonnet::declutter( $hash{'map_id_'.$1} );  
             if ( $CurMap ne 'All Maps' ) {  
  my ( $ResMap, $NameMap ) = split(/\=/,$CurMap);  
  if ( $Map ne $ResMap ) { next; }  
     }  
     my $meta=$hash{'src_'.$ResId};  
     my $PartNo = 0;  
     $Dis .= ':';  
     undef %TempHash;  
     map {  
  if ($_=~/^stores\_(\d+)\_tries$/) {  
                     my $Part=&Apache::lonnet::metadata($meta,$_.'.part');  
     if ( $TempHash{"$Part"} eq '' ) {   
  $TempHash{"$Part"} = $Part;  
  $TempHash{$PartNo}=$Part;  
  $TempHash{"$Part.Code"} = 'U';    
  $PartNo++;  
     }  
  }  
             } split(/\,/,&Apache::lonnet::metadata($meta,'keys'));  
   
             my $Prob = $Map.'___'.$2.'___'.      foreach my $sequence (split(':', $cache->{'orderedSequences'})) {
                        &Apache::lonnet::declutter( $hash{'src_'.$ResId} );          if($cache->{'ProblemStatisticsMap'} ne 'All Maps'  &&
             $Code='U';             $cache->{'ProblemStatisticsMap'} ne $cache->{$sequence.':title'}) {
             $Tries = 0;              next;
     $ParCr = 0;          }
             $Wrongs = 0;  
      $LatestVersion = $result{"version:$Prob"};                 my $Dis = '';
           foreach my $problemID (split(':', $cache->{$sequence.':problems'})) {
     if ( $LatestVersion ) {              my $problem = $cache->{$problemID.':problem'};
  for ( my $Version=1; $Version<=$LatestVersion; $Version++ ) {              my $LatestVersion = $cache->{$name.':version:'.$problem};
     my $vkeys = $result{"$Version:keys:$Prob"};  
     my @keys = split(/\:/,$vkeys);              # Output dashes for all the parts of this problem if there
                 # is no version information about the current problem.
     foreach my $Key (@keys) {                #if(!$LatestVersion) {
  if (($Key=~/\.(\w+)\.solved$/) && ($Key!~/^\d+\:/)) {              #    foreach my $part (split(/\:/,$cache->{$sequence.':'.
     my $Part = $1;              #                                          $problemID.
     $Tries = $result{"$Version:$Prob:resource.$Part.tries"};              #                                          ':parts'})) {
     $ParCr = $result{"$Version:$Prob:resource.$Part.awarded"};              #        $codes    .= "-,";
     my $Time = $result{"$Version:$Prob:timestamp"};              #        $attempts .= "0,"; 
     $TempHash{"$Part.Time"} = ($Time) ? $Time : 0;              #    }
     $TempHash{"$Part.Tries"} = ($Tries) ? $Tries : 0;              #    next;
     $TempHash{"$Part.ParCr"} = ($ParCr) ? $ParCr : 0;                      #}
     $TotalTries += $TempHash{"$Part.Tries"};  
     $TotParCr += $TempHash{"$Part.ParCr"};              my %partData=undef;
 #$r->print($Version.'---'.$Prob.'==='.$Time.'<br>');              # Initialize part data, display skips correctly
     my $Val = $result{"$Version:$Prob:resource.$Part.solved"};              # Skip refers to when a student made no submissions on that
     if ( $Val eq 'correct_by_student' )              # part/problem.
                                { $Wrongs = $Tries - 1; $Code = 'C'; }               foreach my $part (split(/\:/,$cache->{$sequence.':'.
     elsif ( $Val eq 'correct_by_override' )                                                    $problemID.
                                { $Wrongs = $Tries - 1; $Code = 'O'; }                                                                            ':parts'})) {
     elsif ( $Val eq 'incorrect_attempted' ||                   $partData{$part.':tries'}=0;
                                 $Val eq 'incorrect_by_override' )                  $partData{$part.':code'}='-';
                { $Wrongs = $Tries; $Code = 'I'; }  
     $TempHash{"$Part.Code"} = $Code;  
     $TempHash{"$Part.Wrongs"} = $Wrongs;  
  }  
          }  
                 }   
  for ( my $n = 0; $n < $PartNo; $n++ ) {    
     my $part = $TempHash{$n};  
     my $Yes = 0;  
                     if ( $TempHash{$part.'.Code'} eq 'C' ||  
                          $TempHash{$part.'.Code'} eq 'O'  )   
        {$ProbSolved++;$Yes=1;}      
     my $ptr = "$hash{'title_'.$ResId}";  
     if ( $PartNo > 1 ) {                  
  $ptr .= " (part $part)";  
  $Dis .= ':';  
     }  
     my $Fac = ($TempHash{"$part.Tries"}) ?   
                               ($TempHash{"$part.ParCr"}/$TempHash{"$part.Tries"}) : 0;  
     my $DisF;  
     if ( $Fac > 0 &&  $Fac < 1 ) {   
  $DisF = sprintf( "%.4f", $Fac );  
     }  
     else {$DisF = $Fac;}  
 #    $DisF .= '+'.$TempHash{"$part.Time"};  
     $TimeTot += $TempHash{"$part.Time"};  
     $Dis .= $ptr.'*'.$ResId.'='.$DisF.'+'.$Yes;  
     $ptr .= "*$ResId:$TempHash{$part.'.Tries'}".  
             ":$TempHash{$part.'.Wrongs'}".  
                             ":$TempHash{$part.'.Code'}";      
 #$r->print($sname.' -- '.$ptr.'--- timestamp='.$TempHash{"$part.Time"}.'<br>');  
     push (@list, $ptr);  
     $TotalOpend++;  
     $ProbTot++;  
  }  
             }              }
     else {   
  for(my $n=0; $n<$PartNo; $n++) {              # Looping through all the versions of each part, starting with the
     push (@list, "$hash{'title_'.$ResId}*$ResId:0:0:U");              # oldest version.  Basically, it gets the most recent 
     $ProbTot++;               # set of grade data for each part.
       for(my $Version=1; $Version<=$LatestVersion; $Version++) {
                   foreach my $part (split(/\:/,$cache->{$sequence.':'.
                                                         $problemID.
                                                         ':parts'})) {
   
                       if(!defined($cache->{$name.":$Version:$problem".
                                                  ":resource.$part.solved"})) {
                           # No grade for this submission, so skip
                           next;
                       }
   
                       my $tries=0;
                       my $time=0;
                       my $awarded=0;
       $Discussed=0;
                       my $code='U';
   
                       $awarded = $cache->{$name.
                                           "$Version:$problem:resource.".
                                           "$part.awarded"};
                       $partData{$part.':awarded'} = ($awarded) ? $awarded : 0;
                       $totalAwarded += $awarded;
   
                       $tries = $cache->{$name.":$Version:$problem".
                                         ":resource.$part.tries"};
                       $partData{$part.':tries'} = ($tries) ? $tries : 0;
                       $partData{$part.':wrong'} = $partData{$part.':tries'};
                       $totalTries += $tries;
   
                       my $val = $cache->{$name.":$Version:$problem".
                                          ":resource.$part.solved"};
                       if    ($val eq 'correct_by_student')   {$code = 'C';} 
                       elsif ($val eq 'correct_by_override')  {$code = 'O';}
                       elsif ($val eq 'incorrect_attempted')  {$code = 'I';} 
                       elsif ($val eq 'incorrect_by_override'){$code = 'I';}
                       elsif ($val eq 'excused')              {$code = 'x';}
                       $partData{$part.':code'}=$code;
   
                       if($partData{$part.':wrong'} ne 0 && 
                          ($code eq 'C' || $code eq 'O')) {
                           $partData{$part.':wrong'}--;
                       }
                   }
               }
   
               # Loop through all the parts for the current problem in the 
               # correct order and prepare the output
               foreach (split(/\:/,$cache->{$sequence.':'.$problemID.
                                            ':parts'})) {
                   my $Yes = 0;
                   if($partData{$_.':code'} eq 'C' || 
                      $partData{$_.':code'} eq 'O') {
                       $Yes=1;
                   }
                   #my $ptr = "$hash{'title_'.$ResId}";
                   my $ptr = $tempProblemOrder.'&'.$problemID;
   
                   if($_ > 1) {
                       $ptr .= "*(part $_)";
                       $Dis .= '&';
                   }
   
    my ($pr_no,$dod)=split('&',$ptr);
    my $DoDiff=$DoDiff{$dod};
   #               $r->print('<br>'.$name.'---'.$ptr.'==='.$DoDiff);
   
                   my $Fac = ($partData{$_.':Tries'}) ? 
                       ($partData{$_.':awarded'}/$partData{$_.':tries'}) : 0;
                   my $DisF;
                   if($Fac > 0 &&  $Fac < 1) { 
                       $DisF = sprintf( "%.4f", $Fac );
                   } else {
                       $DisF = $Fac;
                   }
   
                   if ($Discuss{"$name:$problem"}) {
       $TotDiscuss++;
                       $Discussed=1;
                   }
                   my $time = $cache->{"$name:$LatestVersion:$problem:timestamp"};
                   $Dis .= $tempProblemOrder.'='.$DisF.'+'.$Yes;
                   $ptr .= '&'.$partData{$_.'.Tries'}.
                           '&'.$partData{$_.'.Wrongs'}.
                           '&'.$partData{$_.'.Code'};
                   push (@$list, $ptr."&$Discussed");
   
   #### if ($DoDiff>0.85) {
   
                   $TimeTot += $time;
   
                   if ($Yes==1 && $partData{$_.'.Tries'}==1) {
       $TotFirst++;
                   }
    my $Acts= $Activity{$name.':'.$problem};
    if ($Acts) {
       my $Pt=&ProcAct( $Acts, $time );
       #my ($spe,$beg) = split(/\+/,$Pt);
                       my $spe= $Pt;
       if ($Yes==1) {$spent_yes += $spe;}
       $spent += $spe;
       #$Beg += $beg;
   #                   $r->print('<br>'.$name.'---'.$problem.'---'.$spe);
  }   }
     }   $TotalOpend++;
    $ProbTot++;
   
                   $tempProblemOrder++;
               }
         }          }
  if ( $TotalTries ) {   my $pstr;
     my $DisFac = ( $TotalTries ) ? ($TotParCr/$TotalTries) : 0;          if($totalTries) {
 #    my $DisFactor = int(sprintf( "%.4f", $DisFac ) * 100);      my $DisFac = ($totalAwarded/$totalTries);
     my $DisFactor = sprintf( "%.4f", $DisFac );      my $DisFactor = sprintf( "%.4f", $DisFac );
     my $time;              my $TS = sprintf( "%.2f", $spent );
     if ($ProbSolved){              my $TS_yes = sprintf( "%.2f", $spent_yes );
  $time = int(($TimeTot/$ProbSolved)/10000000);     # $DiscFac{$DisFactor}=$Dis;
     }      $pstr=$DisFactor.':'.$name.':'.$ProbTot.':'.$TotalOpend.':'.
     $DiscFac{($DisFactor.':'.$sname.':'.$ProbTot.':'.$TotalOpend.':'.                    $totalTries.':'.$ProbSolved.':'.$TotFirst.':'.
                       $TotalTries.':'.$ProbSolved.':'.$time)}=$Dis;                    $TS_yes.':'.$TS.':'.$TotDiscuss;
 #$r->print($DisFactor.$sname.'<br> --- Dis= '.$Dis.'<br>');      $discriminantFactor{$pstr}=$Dis;
  }   }
     }      }
     #$r->print($sname.' PrCr= '.$TotParCr.' Slvd= '.$ProbSolved.' Tries='.$TotalTries.'<br>');  
 }  
   
       return (\%discriminantFactor);
 # ------------------------------------------------------------ Build page table  
 sub tracetable {  
     my ($rid,$beenhere)=@_;  
     $rid=~/(\d+)\.(\d+)/;  
     $maps{&Apache::lonnet::declutter($hash{'map_id_'.$1})}='';#$hash{'title_'.$rid};   
     unless ($beenhere=~/\&$rid\&/) {  
        $beenhere.=$rid.'&';   
        if (defined($hash{'is_map_'.$rid})) {  
    my $cmap=$hash{'map_type_'.$hash{'map_pc_'.$hash{'src_'.$rid}}};  
            if ( $cmap eq 'sequence' || $cmap eq 'page' ) {   
                $cols[$#cols+1]=0;  
        $HWN++;  
                $mapsort[$HWN]=$rid.$hash{'title_'.$rid};   
                #$maps{&Apache::lonnet::declutter($hash{'src_'.$rid})}=   
                #      $hash{'title_'.$rid};   
            }  
            if ((defined($hash{'map_start_'.$hash{'src_'.$rid}})) &&  
                (defined($hash{'map_finish_'.$hash{'src_'.$rid}}))) {  
               my $frid=$hash{'map_finish_'.$hash{'src_'.$rid}};  
   
                 &tracetable($hash{'map_start_'.$hash{'src_'.$rid}},  
                 '&'.$frid.'&');  
   
               if ($hash{'src_'.$frid}) {  
                  if ($hash{'src_'.$frid}=~  
                                  /\.(problem|exam|quiz|assess|survey|form)$/) {  
      $cols[$#cols+1]=$frid;  
      $mapsort[$HWN] .= '&'.$frid;  
                  }  
       }  
    }  
        } else {  
           if ($hash{'src_'.$rid}) {  
              if ($hash{'src_'.$rid}=~  
                                  /\.(problem|exam|quiz|assess|survey|form)$/) {  
          $cols[$#cols+1]=$rid;  
  $mapsort[$HWN] .= '&'.$rid;  
              }  
           }  
        }  
        if (defined($hash{'to_'.$rid})) {  
           map {  
               &tracetable($hash{'goesto_'.$_},$beenhere);  
           } split(/\,/,$hash{'to_'.$rid});  
        }  
     }  
 }  }
   
   
   =pod
 sub MySort {            sub MySort {          
     if ( $Pos > 0 && $Pos < 11 ) {      if ( $Pos > 0 ) {
  if ($ENV{'form.order'} eq 'Descending') {$b <=> $a;}   if ($ENV{'form.order'} eq 'Descending') {$b <=> $a;}
  else { $a <=> $b; }   else { $a <=> $b; }
     }      }
Line 525  sub MySort { Line 848  sub MySort {
  else { $a cmp $b; }   else { $a cmp $b; }
     }      }
 }  }
   =cut
   
 sub Build_Statistics {  sub BuildStatisticsTable {
     $r->print(<<ENDPOP);      my ($cache,$discriminantFactor,$list,$headings,$students)=@_;
 <script>  
     popwin=open('','popwin','width=400,height=100');  
     popwin.document.writeln('<html><body bgcolor="#8cee8c">'+  
       '<title>LON-CAPA Statistics</title>'+  
       '<h4>Computation Progress</h4>'+  
       '<form name=popremain>'+  
       '<input type=text size=35 name=remaining value=Starting></form>'+  
       '</body></html>');  
     popwin.document.close();  
 </script>  
 ENDPOP  
   
     $r->rflush();  
 # ---------------------------- Gathering the Data of students' tries  
     my $index;  
     for ($index=0;$index<=$#students;$index++) {  
 #----------- update progress  
         $r->print('<script>popwin.document.popremain.remaining.value="'.  
                   'Computing '.($index+1).'/'.($#students+1).': '.  
                   $students[$index].'";</script>');  
         $r->rflush();  
   
         &ExtractStudentData($students[$index],$cid);  #6666666
     }  #    my $file="/home/httpd/perl/tmp/183d.txt";
 #--------------------- close Progress Line  #    open(OUT, ">$file");
     $r->print('<script>popwin.close()</script>');  #6666666
     $r->rflush();       &Create_PrgWin();
 # -------------------- sorting the Data  ##777777
     @list = sort(@list);  ##    &LoadActivityLog();
     $OpSel2='';  ##    $r->print('<script>popwin.document.popremain.remaining.value="'.
     $OpSel1='selected';  ##              'Loading Discussion...";</script>');
       ##    &LoadDoDiffFile();
     $p_count = 0;       &LoadDiscussion();
     my $nIdx = 0;  
     my $dummy;       my $p_count = 0;
       my $nIndex = 0;
       my $dummy;
     my $p_val;      my $p_val;
     my $ResId;      my $ResId;
     my $NoElements = $#list + 1;      my $NoElements = scalar @$list;
 #-------------------------------- loop for data representation  
     while ( $nIdx < $NoElements ) {  
         my %storestats=();  
  my ($Prob,$Tries,$Wrongs,$Code)=split(/\:/,$list[$nIdx]);  
  my $Temp = $Prob;  
  my $MxTries = 0;  
  my $TotalTries = 0;  
  my $YES = 0;  
  my $Incorrect = 0;  
  my $Override = 0;  
  my $StdNo = 0;  
  my @StdLst;   
  do {  
     $nIdx++;  
     $StdNo++;  
     $StdLst[ $StdNo ] = $Tries;  
     $TotalTries += $Tries;  
     if ( $MxTries < $Tries ) { $MxTries = $Tries; }   
     if ( $Code eq 'C' ){ $YES++; }  
     elsif( $Code eq 'I' ) { $Incorrect++; }  
     elsif( $Code eq 'O' ) { $Override++; }  
     elsif( $Code eq 'U' ) { $StdNo--; }  
     ($Prob,$Tries,$Wrongs,$Code)=split(/\:/,$list[$nIdx]);  
  } while ( $Prob eq $Temp && $nIdx < $NoElements );  
   
  $p_count++;      foreach my $sequence (split(':', $cache->{'orderedSequences'})) {
           if($cache->{'ProblemStatisticsMap'} ne 'All Maps'  &&
  ($Temp,$ResId)=split(/\*/,$Temp);             $cache->{'ProblemStatisticsMap'} ne $cache->{$sequence.':title'}) {
               next;
         $Temp = '<a href="'.$hash{'src_'.$ResId}.'" target="_blank">'.$Temp.'</a>';          }
       
  my $res = &Apache::lonnet::declutter($hash{'src_'.$ResId});  
         my $urlres=$res;  
   
         $ResId=~/(\d+)\.(\d+)/;   &CreateProblemStatisticsTableHeading($cache->{'DisplayFormat'},
         my $Map = &Apache::lonnet::declutter( $hash{'map_id_'.$1} );                                               $cache->{$sequence.':source'}, 
         $urlres=$Map;                                               $cache->{$sequence.':title'},
                                                $headings);
   
   ##777777
   ##    &Classify($discriminantFactor, $students);
   
   
    my ($Hid,$pr)=split(/\:/,$mapsort{$_});
    my @lpr=split(/\&/,$pr);
    for (my $i=1; $i<=$#lpr; $i++) {
       my %storestats=();
       my ($PrOrd,$Prob,$Tries,$Wrongs,$Code,$Disc)=split(/\&/,$list->[$nIndex]);
       my $Temp = $Prob;
       my $MxTries = 0;
       my $TotalTries = 0;
       my $YES = 0;
       my $Incorrect = 0;
       my $Override = 0;
       my $StdNo = 0;
       my $DiscNo=0;
       my @StdLst;
       while ( $PrOrd == $lpr[$i] ) 
       {
    $nIndex++;
    $StdNo++;
    $StdLst[ $StdNo ] = $Tries;
    $TotalTries += $Tries;
    if ( $MxTries < $Tries ) { $MxTries = $Tries; } 
    if ( $Code eq 'C' ){ $YES++; }
    elsif( $Code eq 'I' ) { $Incorrect++; }
    elsif( $Code eq 'O' ) { $Override++; }
    elsif( $Code eq 'U' ) { $StdNo--; }
    ($PrOrd,$Prob,$Tries,$Wrongs,$Code,$Disc)=split(/\&/,$list->[$nIndex]);
       }
   
       $p_count++;
       my $Dummy;
       ($ResId,$Dummy)=split(/\*/,$Temp);
   
       $Temp = '<a href="'.$hash{'src_'.$ResId}.
                   '" target="_blank">'.$hash{'title_'.$ResId}.$Dummy.'</a>';
   
       my $res = &Apache::lonnet::declutter($hash{'src_'.$ResId});
       my $urlres=$res;
   
       $ResId=~/(\d+)\.(\d+)/;
       my $Map = &Apache::lonnet::declutter( $hash{'map_id_'.$1} );
       $urlres=$Map;
     
       $res = '<a href="'.$hash{'src_'.$ResId}.'">'.$res.'</a>';
         $res = '<a href="'.$hash{'src_'.$ResId}.'">'.$res.'</a>';      #$Map = '<a href="'.$Map.'">'.$res.'</a>';
   
         #$Map = '<a href="'.$Map.'">'.$res.'</a>';  
   
 #------------------------ Compute the Average of Tries about one problem  #------------------------ Compute the Average of Tries about one problem
  my $Average = ($StdNo) ? $TotalTries/$StdNo : 0;      my $Average = ($StdNo) ? $TotalTries/$StdNo : 0;
   
         $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___timestamp'}=time;             $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___timestamp'}=time;       
         $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___stdno'}=$StdNo;      $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___stdno'}=$StdNo;
         $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___avetries'}=$Average;      $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___avetries'}=$Average;
         
 #-------------------------------- Compute percentage of Wrong tries  #-------------------------------- Compute percentage of Wrong tries
  my $Wrong = ( $StdNo ) ? 100 * ( $Incorrect / $StdNo ) : 0;      my $Wrong = ( $StdNo ) ? 100 * ( $Incorrect / $StdNo ) : 0;
   
 #-------------------------------- Compute Standard Deviation  #-------------------------------- Compute Standard Deviation
  my $StdDev = 0;       my $StdDev = 0; 
  if ( $StdNo > 1 ) {      if ( $StdNo > 1 ) {
     for ( my $n = 0; $n < $StdNo; $n++ ) {   for ( my $n = 0; $n < $StdNo; $n++ ) {
                 my $Dif = $StdLst[ $n ]-$Average;      my $Dif = $StdLst[ $n ]-$Average;
  $StdDev += $Dif*$Dif;      $StdDev += $Dif*$Dif;
     }    } 
     $StdDev /= ( $StdNo - 1 );   $StdDev /= ( $StdNo - 1 );
     $StdDev = sqrt( $StdDev );   $StdDev = sqrt( $StdDev );
  }      }
   
 #-------------------------------- Compute Degree of Difficulty  #-------------------------------- Compute Degree of Difficulty
  my $DoDiff = 0;      my $DoDiff = 0;
  if( $TotalTries > 0 ) {      if( $TotalTries > 0 ) {
     $DoDiff = 1 - ( ( $YES + $Override ) / $TotalTries );   $DoDiff = 1 - ( ( $YES + $Override ) / $TotalTries );
 #    $DoDiff =  ($TotalTries)/($YES + $Override+ 0.1);      #    $DoDiff =  ($TotalTries)/($YES + $Override+ 0.1);    
  }      }
                 
         $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___difficulty'}=$DoDiff;      $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___difficulty'}=$DoDiff;
   
 #-------------------------------- Compute the Skewness  #-------------------------------- Compute the Skewness
  my $Skewness = 0;      my $Skewness = 0;
         my $Sum = 0;       my $Sum = 0; 
  if ( $StdNo > 0 && $StdDev > 0 ) {      if ( $StdNo > 0 && $StdDev > 0 ) {
     for ( my $n = 0; $n < $StdNo; $n++ ) {   for ( my $n = 0; $n < $StdNo; $n++ ) {
                 my $Dif = $StdLst[ $n ]-$Average;      my $Dif = $StdLst[ $n ]-$Average;
  $Skewness += $Dif*$Dif*$Dif;      $Skewness += $Dif*$Dif*$Dif;
     }    } 
     $Skewness /= $StdNo;   $Skewness /= $StdNo;
     $Skewness /= $StdDev*$StdDev*$StdDev;   $Skewness /= $StdDev*$StdDev*$StdDev;
  }      }
 #-----------------  Some restition in presenting the float numbers  
  my $Avg = sprintf( "%.2f", $Average );  #--------------------- Compute the Discrimination Factors
  my $Wrng = sprintf( "%.1f", $Wrong );              my ($Up1,$Up2)=split(/\:/,':');#jason$DisUp->{$lpr[$i]});
  my $SD = sprintf( "%.1f", $StdDev );      my ($Lw1,$Lw2)=split(/\:/,':');#jason$DisLow->{$lpr[$i]});
  my $DoD = sprintf( "%.2f", $DoDiff );      my $Dis1 = $Up1 - $Lw1;
  my $Sk = sprintf( "%.1f", $Skewness );      my $Dis2 = $Up2 - $Lw2;
           my $_D1 = sprintf("%.2f", $Dis1);
  $CachData{($p_count-1)}=$Temp.':'.$StdNo.':'.$TotalTries.':'.      my $_D2 = sprintf("%.2f", $Dis2);
                                 $MxTries.':'.$Avg.':'.$YES.':'.  
                                 $Override.':'.$Wrng.':'.$SD.':'.  
                                 $Sk.':'.$DoD.':'.$Map.':'.$Prob;  
   
         $urlres=~/^(\w+)\/(\w+)/;  
         if ($StdNo) {   
            &Apache::lonnet::put('resevaldata',\%storestats,$1,$2);   
         }  
   
   #-----------------  Some restition in presenting the float numbers
       my $Avg = sprintf( "%.2f", $Average );
       my $Wrng = sprintf( "%.1f", $Wrong );
       my $SD = sprintf( "%.1f", $StdDev );
       my $DoD = sprintf( "%.2f", $DoDiff );
       my $Sk = sprintf( "%.1f", $Skewness );
       my $join = $lpr[$i].'&'.$Temp.'&'.$StdNo.'&'.
                          $TotalTries.'&'.$MxTries.'&'.$Avg.'&'.
                          $YES.'&'.$Override.'&'.$Wrng.'&'.$DoD.'&'.
          $SD.'&'.$Sk.'&'.$_D1.'&'.$_D2.'&'.
                          $DiscNo.'&'.$Prob;
       $CachData{($p_count-1)}=$join;
   
   #6666666
   #    $r->print('<br>'.$out.'&'.$DoD);
   #            print (OUT $out.'@'.$DoD.'&');
   #6666666
   
       $urlres=~/^(\w+)\/(\w+)/;
       if ($StdNo) { 
    &Apache::lonnet::put('resevaldata',\%storestats,$1,$2); 
       }
 #-------------------------------- Row of statistical table  #-------------------------------- Row of statistical table
         if ( $DiscFlag == 0 ) {              &TableRow($cache,$join,$i,($p_count-1));
     $r->print( "\n".'<tr>'.   }
                "\n".'<td>'.$p_count.'</td>'.   &CloseTable($cache);
                "\n".'<td>'.$Temp.'</td>'.  
                "\n".'<td>'.$StdNo.'</td>'.  
                "\n".'<td>'.$TotalTries.'</td>'.  
                "\n".'<td>'.$MxTries.'</td>'.  
                "\n".'<td>'.$Avg.'</td>'.  
                "\n".'<td>'.$YES.'</td>'.  
                "\n".'<td>'.$Override.'</td>'.  
                "\n".'<td>'.$Wrng.'</td>'.  
                "\n".'<td>'.$SD.'</td>'.  
                "\n".'<td>'.$Sk.'</td>'.  
                "\n".'<td>'.$DoD.'</td>'.  
                "\n".'<td>'.$Map.'</td>'.  
                        "\n".'</tr>' );  
     $GraphDat{$nIdx}=$DoD.':'.$Wrng;  
  }   
     }      }
       &Close_PrgWin();
   #666666
   #    close( OUT );
   #666666
 }  }
   
   =pod
 sub Cache_Statistics {  sub Cache_Statistics {
       my ($cache)=@_;
     my @list = ();      my @list = ();
     my $Useful;      my $Useful;
     my $UnUseful;      my $UnUseful;
   #    $r->print('<input type="hidden" name="show" value="excel" />'."\n"); 
     my %myHeader = reverse( %Header );      my %myHeader = reverse( %Header );
     $Pos = $myHeader{$ENV{'form.sort'}};      $Pos = $myHeader{$ENV{'form.sort'}};
     $p_count = 0;      if ($Pos > 0) {$Pos++;}
       my $p_count = 0;
     foreach my $key( keys %CachData) {       foreach my $key( keys %CachData) { 
  my @Temp=split(/\:/,$CachData{$key});   my @Temp=split(/\&/,$CachData{$key});
  if ( $Pos == 0 || $Pos == 11 ) {   if ( $Pos == 0 ) {
     ($UnUseful,$Useful)=split(/\>/,$Temp[$Pos]);      ($UnUseful,$Useful)=split(/\>/,$Temp[$Pos]);
  }   }
  else {   else {
     $Useful = $Temp[$Pos];      $Useful = $Temp[$Pos];
  }      }   
  $list[$p_count]=$Useful.'&'.$CachData{$key};   $list[$p_count]=$Useful.'@'.$CachData{$key};
         $p_count++;          $p_count++;
     }      }
   
     @list = sort MySort (@list);      @list = sort MySort (@list);
   
     for ( my $nIdx = 0; $nIdx < $p_count; $nIdx++ ) {      my $nIndex=0;
  my( $Pre, $Post ) = split(/\&/,$list[$nIdx]);   
  my ($Temp,$StdNo,$TotalTries,$MxTries,$Avg,$YES,      if ( $Pos == 0 ) {
             $Override,$Wrng,$SD,$Sk,$DoD,$res,$Prob)=split(/\:/,$Post);   foreach (sort keys %mapsort) {
  $r->print( "\n".'<tr>'.      my ($Hid,$pr)=split(/\:/,$mapsort{$_});
                "\n".'<td>'.($nIdx+1).'</td>'.      &CreateProblemStatisticsTableHeading($cache,1,$Hid);
                "\n".'<td  bgcolor="#FFFFFF">'.$Temp.'</td>'.      my @lpr=split(/\&/,$pr);
                "\n".'<td>'.$StdNo.'</td>'.      for (my $i=1; $i<=$#lpr; $i++) {
                "\n".'<td>'.$TotalTries.'</td>'.   my($Pre, $Post) = split(/\@/,$list[$nIndex]); 
                "\n".'<td>'.$MxTries.'</td>'.   #$r->print('<br>'.$Pre.'---'.$Post);
                "\n".'<td>'.$Avg.'</td>'.   &TableRow($cache,$Post,$i,$nIndex);
                "\n".'<td>'.$YES.'</td>'.   $nIndex++;
                "\n".'<td>'.$Override.'</td>'.      }
                "\n".'<td>'.$Wrng.'</td>'.      &CloseTable($cache);
                "\n".'<td>'.$SD.'</td>'.   }
                "\n".'<td>'.$Sk.'</td>'.      }
                "\n".'<td>'.$DoD.'</td>'.      else {
                "\n".'<td>'.$res.'</td>'.   &CreateProblemStatisticsTableHeading($cache,0);
                "\n".'</tr>' );   for ( my $nIndex = 0; $nIndex < $p_count; $nIndex++ ) {
  $GraphDat{$nIdx}=$DoD.':'.$Wrng;      my($Pre, $Post) = split(/\@/,$list[$nIndex]); 
     }       &TableRow($cache,$Post,$nIndex,$nIndex);
    } 
    &CloseTable($cache);
       }
   }
   =cut 
   
   
   
   sub TableRow {
       my ($Str,$Idx,$RealIdx)=@_;
       my($PrOrd,$Temp,$StdNo,$TotalTries,$MxTries,$Avg,$YES,$Override,
          $Wrng,$DoD,$SD,$Sk,$_D1,$_D2,$DiscNo,$Prob)=split(/\&/,$Str);
       if ($ENV{'form.showcsv'}) {
           my ($ResId,$Dummy)=split(/\*/,$Prob);
           my $Ptr =  "\n".'<br>'.
                  "\n".'"'.($RealIdx+1).'",'.
                  "\n".'"'.$hash{'title_'.$ResId}.$Dummy.'",'.
                  "\n".'"'.$hash{'src_'.$ResId}.'",'.
                  "\n".'"'.$StdNo.'",'.
                  "\n".'"'.$TotalTries.'",'.
                  "\n".'"'.$MxTries.'",'.
                  "\n".'"'.$Avg.'",'.
                  "\n".'"'.$YES.'",'.
                  "\n".'"'.$Override.'",'.
                  "\n".'"'.$Wrng.'",'.
                  "\n".'"'.$DoD.'",'.
                  "\n".'"'.$SD.'",'.
                  "\n".'"'.$Sk.'",'.
                  "\n".'"'.$_D1.'",'.
          "\n".'"'.$_D2.'"'.
          "\n".'"'.$DiscNo.'"';
   
           $r->print("\n".$Ptr);
       }
       else{
           my $Ptr =  "\n".'<tr>'.
                  "\n".'<td>'.($RealIdx+1).'</td>'.
             #     "\n".'<td>'.$PrOrd.$Temp.'</td>'.
                  "\n".'<td>'.$Temp.'</td>'.
                  "\n".'<td bgcolor='.$color{"yellow"}.'> '.$StdNo.'</td>'.
                  "\n".'<td bgcolor='.$color{"yellow"}.'>'.$TotalTries.'</td>'.
                  "\n".'<td bgcolor='.$color{"yellow"}.'>'.$MxTries.'</td>'.
                  "\n".'<td bgcolor='.$color{"gb"}.'>'.$Avg.'</td>'.
                  "\n".'<td bgcolor='.$color{"gb"}.'> '.$YES.'</td>'.
                  "\n".'<td bgcolor='.$color{"gb"}.'> '.$Override.'</td>'.
                  "\n".'<td bgcolor='.$color{"red"}.'> '.$Wrng.'</td>'.
                  "\n".'<td bgcolor='.$color{"red"}.'> '.$DoD.'</td>'.
                  "\n".'<td bgcolor='.$color{"green"}.'> '.$SD.'</td>'.
                  "\n".'<td bgcolor='.$color{"green"}.'> '.$Sk.'</td>'.
                  "\n".'<td bgcolor='.$color{"purple"}.'> '.$_D1.'</td>'.
          "\n".'<td bgcolor='.$color{"purple"}.'> '.$_D2.'</td>'.
                  "\n".'<td bgcolor='.$color{"yellow"}.'> '.$DiscNo.'</td>';
           $r->print("\n".$Ptr.'</tr>' );
       }
       $GraphDat{$RealIdx}=$DoD.':'.$Wrng;
 }  }
   
   sub StatusOptions {
       my ($cache)=@_;
   
       my $Status = $cache->{'Status'};
       my $OpSel1 = '';
       my $OpSel2 = '';
       my $OpSel3 = '';
   
       if($Status eq 'Any')         { $OpSel3 = ' selected'; }
       elsif($Status eq 'Expired' ) { $OpSel2 = ' selected'; }
       else                         { $OpSel1 = ' selected'; }
   
       my $Ptr = '';
       $Ptr .= '<tr><td align="right"><b>Student Status:</b></td>'."\n";
       $Ptr .= '<td align="left"><select name="Status">';
       $Ptr .= '<option'.$OpSel1.'>Active</option>'."\n";
       $Ptr .= '<option'.$OpSel2.'>Expired</option>'."\n";
       $Ptr .= '<option'.$OpSel3.'>Any</option>'."\n";
       $Ptr .= '</select></td></tr>'."\n";
   
       return $Ptr;
   }
   
   sub AscendOrderOptions {
       my ($cache)=@_;
   
       my $order = $cache->{'Ascend'};
       my $OpSel1 = '';
       my $OpSel2 = '';
   
       if($order eq 'Ascending') {
           $OpSel1 = ' selected';
       } else {
           $OpSel2 = ' selected';
       }
   
       my $Ptr = '';
       $Ptr .= '<tr><td align="right"><b>Sorting Type:</b></td>'."\n";
       $Ptr .= '<td align="left"><select name="Ascend">'."\n";
       $Ptr .= '<option'.$OpSel1.'>Ascending</option>'."\n".
       '<option'.$OpSel2.'>Descending</option>'."\n";
       $Ptr .= '</select></td></tr>'."\n";
   
       return $Ptr;
   }
   
   sub ProblemStatisticsButtons {
       my ($cache)=@_;
   
       my $Ptr = '<tr><td></td><td align="left">';
       $Ptr .= '<input type=submit name="ProblemStatisticsRecalculate" ';
       $Ptr .= 'value="Recalculate Statistics"/>'."\n";
       $Ptr .= '&nbsp;&nbsp;&nbsp;';
       $Ptr .= '<input type="submit" name="DoDiffGraph" ';
       $Ptr .= 'value="DoDiff Graph" />'."\n";
       $Ptr .= '&nbsp;&nbsp;&nbsp;';
       $Ptr .= '<input type="submit" name="PercentWrongGraph" ';
       $Ptr .= 'value="%Wrong Graph" />'."\n";
       $Ptr .= '&nbsp;&nbsp;&nbsp;';
       $Ptr .= '<input type="submit" name="DisplayCSVFormat" ';
       if($cache->{'DisplayFormat'} eq 'Display CSV Format') {
           $Ptr .= 'value="Display CSV Format" />'."\n";
       } else {
           $Ptr .= 'value="Display Table Format" />'."\n";
       }
       $Ptr .= '</td></tr>';
   
       return $Ptr;
   }
   
   sub ProblemStatisticsLegend {
       my $Ptr = '';
       $Ptr = '<table border="0">';
       $Ptr .= '<tr><td>';
       $Ptr .= '<b>#Stdnts</b>:</td>';
       $Ptr .= '<td>Total Number of Students opened the problem.';
       $Ptr .= '</td></tr><tr><td>';
       $Ptr .= '<b>Tries</b>:</td>';
       $Ptr .= '<td>Total Number of Tries for solving the problem.';
       $Ptr .= '</td></tr><tr><td>';
       $Ptr .= '<b>Mod</b>:</td>';
       $Ptr .= '<td>Maximunm Number of Tries for solving the problem.';
       $Ptr .= '</td></tr><tr><td>';
       $Ptr .= '<b>Mean</b>:</td>';
       $Ptr .= '<td>Average Number of the tries. [ Tries / #Stdnts ]';
       $Ptr .= '</td></tr><tr><td>';
       $Ptr .= '<b>#YES</b>:</td>';
       $Ptr .= '<td>Number of students solved the problem correctly.';
       $Ptr .= '</td></tr><tr><td>';
       $Ptr .= '<b>#yes</b>:</td>';
       $Ptr .= '<td>Number of students solved the problem by override.';
       $Ptr .= '</td></tr><tr><td>';
       $Ptr .= '<b>%Wrng</b>:</td>';
       $Ptr .= '<td>Percentage of students tried to solve the problem ';
       $Ptr .= 'but still incorrect. [ 100*((#Stdnts-(#YES+#yes))/#Stdnts) ]';
       $Ptr .= '</td></tr><tr><td>';
   #    Kashy formula
   #    '<b>  DoDiff </b>: Degree of Difficulty of the problem.<br>'.
   #    '[ Tries/(#YES+#yes+0.1) ]<br>'.
       #Gerd formula
       $Ptr .= '<b>DoDiff</b>:</td>';
       $Ptr .= '<td>Degree of Difficulty of the problem.  ';
       $Ptr .= '[ 1 - ((#YES+#yes) / Tries) ]';
       $Ptr .= '</td></tr><tr><td>';
       $Ptr .= '<b>S.D.</b>:</td>';
       $Ptr .= '<td>Standard Deviation of the tries.  ';
       $Ptr .= '[ sqrt(sum((Xi - Mean)^2)) / (#Stdnts-1) ';
       $Ptr .= 'where Xi denotes every student\'s tries ]';
       $Ptr .= '</td></tr><tr><td>';
       $Ptr .= '<b>Skew.</b>:</td>';
       $Ptr .= '<td>Skewness of the students tries.';
       $Ptr .= '[(sqrt( sum((Xi - Mean)^3) / #Stdnts)) / (S.D.^3)]';
       $Ptr .= '</td></tr><tr><td>';
       $Ptr .= '<b>Dis.F.</b>:</td>';
       $Ptr .= '<td>Discrimination Factor: A Standard for evaluating the ';
       $Ptr .= 'problem according to a Criterion<br>';
       $Ptr .= '<b>[Applied Criterion in %27 Upper Students - ';
       $Ptr .= 'Applied the same Criterion in %27 Lower Students]</b><br>';
       $Ptr .= '<b>1st Criterion</b> for Sorting the Students: ';
       $Ptr .= '<b>Sum of Partial Credit Awarded / Total Number of Tries</b><br>';
       $Ptr .= '<b>2nd Criterion</b> for Sorting the Students: ';
       $Ptr .= '<b>Total number of Correct Answers / Total Number of Tries</b>';
       $Ptr .= '</td></tr>';
       $Ptr .= '<tr><td><b>Disc.</b></td>';
       $Ptr .= '<td>Number of Students had at least one discussion.';
       $Ptr .= '</td></tr></table>';
   
       return $Ptr;
   }
   
   #---- END Problem Statistics Web Page ----------------------------------------
   
   #---- Problem Statistics Graph Web Page --------------------------------------
   
 # ------------------------------------------- Prepare data for Graphical chart  # ------------------------------------------- Prepare data for Graphical chart
   
 sub GetGraphData {  sub GetGraphData {
     my $Tag = shift;      my $ylab = shift;
     my $Col;      my $Col;
     my $data='';      my $data='';
     my $count = 0;      my $count = 0;
Line 749  sub GetGraphData { Line 1266  sub GetGraphData {
     foreach (keys %GraphDat) {delete $GraphDat{$_};}      foreach (keys %GraphDat) {delete $GraphDat{$_};}
     if (-e "$GraphDB") {      if (-e "$GraphDB") {
  if (tie(%GraphDat,'GDBM_File',"$GraphDB",&GDBM_READER,0640)) {   if (tie(%GraphDat,'GDBM_File',"$GraphDB",&GDBM_READER,0640)) {
     if ( $Tag eq 'DoDiff Graph' ) {      if ( $ylab eq 'DoDiff Graph' ) {
  $Tag = 'Degree-of-Difficulty';   $ylab = 'Degree-of-Difficulty';
  $Col = 0;   $Col = 0;
     }      }
     else {      else {
  $Tag = 'Wrong-Percentage';   $ylab = 'Wrong-Percentage';
  $Col = 1;   $Col = 1;
     }      }
     foreach (sort NumericSort keys %GraphDat) {       foreach (sort NumericSort keys %GraphDat) { 
Line 764  sub GetGraphData { Line 1281  sub GetGraphData {
  $data .= $inf.',';   $data .= $inf.',';
  $count++;   $count++;
     }      }
       if ( $Max > 1 ) { 
    $Max += (10 - $Max % 10);
    $Max = int($Max);
       }
       else { $Max = 1; }
             untie(%GraphDat);              untie(%GraphDat);
     my $Course = $ENV{'course.'.$cid.'.description'};      my $Course = $ENV{'course.'.$cid.'.description'};
     $Course =~ s/\ /"_"/eg;      $Course =~ s/\ /"_"/eg;
     $GData=$Course.'&'.$Tag.'&'.$Max.'&'.$count.'&'.$data;      $GData=$Course.'&'.'Problems'.'&'.$ylab.'&'.$Max.'&'.$count.'&'.$data;
   
  }   }
  else {   else {
     $r->print("Unable to tie hash to db file");      $r->print("Unable to tie hash to db file");
  }   }
     }      }
 }  }
   #---- Problem Analysis Web Page ----------------------------------------------
   
   sub IntervalOptions {
       my ($cache)=@_;
   
 sub initial {      my $interval = 1;
 # --------------------------------- Initialize the global varaibles      for(my $n=1; $n<=7; $n++) {
   undef @students;          if($cache->{'Interval'} == $n) {
   undef @cols;              $interval = $n;
   undef %maps;          }
   undef %section;      }
   undef %StuBox;  
   undef @list;      my $Ptr = '<br><b>Select number of intervals</b>'."\n".
   undef %CachData;               '<select name="Interval">'."\n";
   undef %GraphDat;      for(my $n=1; $n<=7;$ n++) {
   undef %DiscFac;   $Ptr .= '<option';
   undef $CurMap;          if($interval == $n) {
   undef $CurSec;              $Ptr .= ' selected';
   undef $CurStu;          }
   undef $p_count;   $Ptr .= '>'.$n."</option>"."\n";
   undef $Pos;      }
   undef $GData;      $Ptr .= '</select>'."\n";
   
       return $Ptr;
 }  }
   
   sub OptionResponseTable {
       my ($cache)=@_;
       my $Str = '';
       $Str .= '<br><b> Option Response Problems in this course:</b>'."\n";
       $Str .= '<br><br>'."\n";
       $Str .= "<table border=2><tr><th> \# </th><th> Problem Title </th>";
       $Str .= '<th> Resource </th><th> Analysis  </th></tr>'."\n";
   
       my $number=1;
       foreach (split(':::',$cache->{'OptionResponses'})) {
           my ($uri,$title,$part,$problem)=split('::',$_);
           my $Temp = '<a href="'.$uri.'" target="_blank">'.$title.'</a>';
           $Str .= '<tr>';
           $Str .= '<td> '.$number.' </td>';
           $Str .= '<td bgcolor="'.$color{"green"}.'"> '.$Temp.' </td>';
           $Str .= '<td bgcolor="'.$color{"yellow"}.'"> '.$uri.' </td>';
           $Str .= '<td><input type="submit" name="Analyze:::'.$uri.':::';
           $Str .= $title.':::'.$part.':::'.$problem.'" value="';
           $Str .= 'Analyze" /></td></tr>'."\n";
           $number++;
       }
       $Str .= '</table>'."\n";
   
 sub ClassList {      return $Str;
   }
     &GetStatus();  
   #---- END Problem Analysis Web Page ------------------------------------------
     $cid=$ENV{'request.course.id'};  
     my $chome=$ENV{'course.'.$cid.'.home'};  #---- Student Assessment Web Page --------------------------------------------
     my ($cdom,$cnum)=split(/\_/,$cid);  
 # ----------------------- Get first and last resource, see if there is anything  # ------ Create different Student Report 
     $firstres=$hash{'map_start_/res/'.$ENV{'request.course.uri'}};  sub StudentReport {
     $lastres=$hash{'map_finish_/res/'.$ENV{'request.course.uri'}};      my ($cache, $name)=@_;
     if (($firstres) && ($lastres)) {  
 # ----------------------------------------------------------------- Render page      my $Str = '';
  my $classlst=&Apache::lonnet::reply      if($cache->{$name.':error'} =~ /course/) {
                  ('dump:'.$cdom.':'.$cnum.':classlist',$chome);          my ($username)=split(':',$name);
  my $StudNo = 0;          $Str .= '<b><font color="blue">No course data for student </font>';
  unless ($classlst=~/^error\:/) {          $Str .= '<font color="red">'.$username.'.</font></b><br>';
     foreach (sort split(/\&/,$classlst)) {          return $Str;
  my ($name,$value)=split(/\=/,$_);      }
  my ($end,$start)=split(/\:/,&Apache::lonnet::unescape($value));  
  $name=&Apache::lonnet::unescape($name);      $Str .= "<table border=2><tr><th> \# </th><th> Set Title </th>";
  my ($sname,$sdom)=split(/\:/,$name);      $Str .= '<th> Results </th><th> Tries </th></tr>'."\n";
  my $ssec=&Apache::lonnet::usection($sdom,$sname,$cid);  
                 if ($ssec==-1) {next;}      my $codes;
  $ssec=($ssec) ? $ssec : '(none)';      my $attempts;
  $ssec=(int($ssec)) ? int($ssec) : $ssec;      foreach my $sequence (split(':', $cache->{'orderedSequences'})) {
  #$r->print($sname.'...'.$ssec.'<br>');          if($cache->{'StudentAssessmentMap'} ne 'All Maps'  &&
  $section{$ssec}=$ssec;             $cache->{'StudentAssessmentMap'} ne $cache->{$sequence.':title'}) {
  if ($CurSec eq 'All Sections' || $ssec eq $CurSec) {              next;
     $students[$StudNo]=$name;          }
     $StuBox{$sname}=$ssec;  
  }  
  $StudNo++;  
     }  
  }  
  else {  
     $r->print('<h1>Could not access course data</h1>');  
  }   
         $r->print("Total number of students : ".($#students+1));  
         $r->rflush();  
 # --------------- Find all assessments and put them into some linear-like order  
  &tracetable($firstres,'&'.$lastres.'&');  
   
 #my $c=0;          $Str .= '<tr><td>'.$sequence.'</td>';
 #foreach(@mapsort) {          $Str .= '<td>'.$cache->{$sequence.':title'}.'</td>';
 #    $c++;  
 #    $r->print('<br>'.$mapsort[$c]);  
 #}  
 #$r->print('<br> Count = '.$c);  
   
           $codes = '';
           $attempts = '';
           foreach my $problemID (split(':', $cache->{$sequence.':problems'})) {
               my $problem = $cache->{$problemID.':problem'};
               my $LatestVersion = $cache->{$name.':version:'.$problem};
   
               # Output dashes for all the parts of this problem if there
               # is no version information about the current problem.
               if(!$LatestVersion) {
                   foreach my $part (split(/\:/,$cache->{$sequence.':'.
                                                         $problemID.
                                                         ':parts'})) {
       $codes    .= "-,";
                       $attempts .= "0,"; 
                   }
                   next;
               }
   
               my %partData=undef;
               # Initialize part data, display skips correctly
               # Skip refers to when a student made no submissions on that
               # part/problem.
               foreach my $part (split(/\:/,$cache->{$sequence.':'.
                                                     $problemID.
                                                     ':parts'})) {
                   $partData{$part.':tries'}=0;
                   $partData{$part.':code'}='-';
               }
   
               # Looping through all the versions of each part, starting with the
               # oldest version.  Basically, it gets the most recent 
               # set of grade data for each part.
       for(my $Version=1; $Version<=$LatestVersion; $Version++) {
                   foreach my $part (split(/\:/,$cache->{$sequence.':'.
                                                         $problemID.
                                                         ':parts'})) {
   
                       if(!defined($cache->{$name.":$Version:$problem".
                                                  ":resource.$part.solved"})) {
                           # No grade for this submission, so skip
                           next;
                       }
   
                       my $tries=0;
                       my $code='U';
   
                       $tries = $cache->{$name.":$Version:$problem".
                                         ":resource.$part.tries"};
                       $partData{$part.':tries'}=($tries) ? $tries : 0;
   
                       my $val = $cache->{$name.":$Version:$problem".
                                          ":resource.$part.solved"};
                       if    ($val eq 'correct_by_student')   {$code = 'Y';} 
                       elsif ($val eq 'correct_by_override')  {$code = 'y';}
                       elsif ($val eq 'incorrect_attempted')  {$code = 'N';} 
                       elsif ($val eq 'incorrect_by_override'){$code = 'N';}
                       elsif ($val eq 'excused')              {$code = 'x';}
                       $partData{$part.':code'}=$code;
                   }
               }
   
               # Loop through all the parts for the current problem in the 
               # correct order and prepare the output
               foreach (split(/\:/,$cache->{$sequence.':'.$problemID.
                                            ':parts'})) {
                   $codes    .= $partData{$_.':code'}.',';
                   $attempts .= $partData{$_.':tries'}.','; 
               }
           }
           $codes    =~ s/,$//;
           $attempts =~ s/,$//;
           $Str .= '<td>'.$codes.'</td>';
           $Str .= '<td>'.$attempts.'</td>';
           $Str .= '</tr>'."\n";
     }      }
   
 # ------------------------------------------------------------- End render page       $Str .= '</table>'."\n";
     else {  
  $r->print('<h3>Undefined course sequence</h3>');      return $Str;
   }
   
   #---- END Student Assessment Web Page ----------------------------------------
   
   #---- Menu Web Page ----------------------------------------------------------
   
   #---- END Menu Web Page ------------------------------------------------------
   
   #---- HELPER FUNCTIONS -------------------------------------------------------
   
   sub CheckFormElement {
       my ($cache, $ENVName, $cacheName, $default)=@_;
   
       if(defined($ENV{'form.'.$ENVName})) {
           $cache->{$cacheName} = $ENV{'form.'.$ENVName};
       } elsif(!defined($cache->{$cacheName})) {
           $cache->{$cacheName} = $default;
     }      }
     &MapSecOptions();  
       return;
 }  }
   
   sub ProcessFormData{
       my ($cache)=@_;
   
 sub Menu {      $cache->{'reportKey'} = 'false';
     my $InpStr = $ENV{'form.sort'};  
     if ( $InpStr eq 'DoDiff Graph' || $InpStr eq '%Wrong Graph' ) {            &Apache::loncommon::get_unprocessed_cgi($ENV{'QUERY_STRING'},
  &GetGraphData($InpStr);                                              ['sort','download']);
     $r->print('<IMG src="/cgi-bin/graph.gif?'.$GData.'" />');      &CheckFormElement($cache, 'Status', 'Status', 'Active');
       &CheckFormElement($cache, 'postdata', 'reportSelected', 'Class list');
       &CheckFormElement($cache, 'reportSelected', 'reportSelected', 
                         'Class list');
       &CheckFormElement($cache, 'DownloadAll', 'DownloadAll', 'false');
       &CheckFormElement($cache, 'sort', 'sort', 'fullname');
       &CheckFormElement($cache, 'download', 'download', 'false');
   
       if(defined($ENV{'form.CreateStudentAssessment'}) ||
          defined($ENV{'form.NextStudent'}) ||
          defined($ENV{'form.PreviousStudent'})) {
           $cache->{'reportSelected'} = 'Student Assessment';
       }
       if(defined($ENV{'form.NextStudent'})) {
           $cache->{'StudentAssessmentMove'} = 'next';
       } elsif(defined($ENV{'form.PreviousStudent'})) {
           $cache->{'StudentAssessmentMove'} = 'previous';
       } else {
           $cache->{'StudentAssessmentMove'} = 'selected';
       }
       &CheckFormElement($cache, 'StudentAssessmentMap', 'StudentAssessmentMap', 
                         'All Maps');
       &CheckFormElement($cache, 'StudentAssessmentStudent', 
                         'StudentAssessmentStudent', 'No Student Selected');
   
       foreach (keys(%ENV)) {
           if(/form\.Analyze:::/) {
   #            $cache->{'reportSelected'} = 'Analyze';
   #            $cache->{'reportKey'} = 'Problem Analysis';
               my ($uri, $title, $part, $problem);
               (undef, $uri, $title, $part, $problem)=split(':::', $_);
               $cache->{'AnalyzeURI'}     = $uri;
               $cache->{'AnalyzeTitle'}   = $title;
               $cache->{'AnalyzePart'}    = $part;
               $cache->{'AnalyzeProblem'} = $problem;
               
               &CheckFormElement($cache, 'Interval', 'Interval', '1');
           }
     }      }
     else {  
  $r->print('<html><head><title>LON-CAPA Statistics</title></head>');  
   
       return;
   
         $r->print('<body bgcolor="#FFFFFF">'.      # Select page to display
                   '<script>window.focus(); window.width=500;window.height=500; </script>'.      if(defined($ENV{'form.ProblemStatistics'}) ||
                   '<img align=right src=/adm/lonIcons/lonlogos.gif>');         defined($ENV{'form.ProblemStatisticsRecalculate'}) || 
 # ---------------------------------------------------------------- Course title         defined($ENV{'form.DisplayCSVFormat'})) {
         $r->print('<h1> Course : "'.          $cache->{'GoToPage'} = 'ProblemStatistics';
                   $ENV{'course.'.$ENV{'request.course.id'}.          &CheckFormElement($cache, 'DisplayCSVFormat',
                   '.description'}.'"</h1><h2>'.localtime().'</h2>');                            'DisplayFormat', 'Display Table Format');
 # ------------------------------- This is going to take a while, produce output          &CheckFormElement($cache, 'Ascend','ProblemStatisticsAscend',
         $r->rflush();                            'Ascending');
           &CheckFormElement($cache, 'Maps', 'ProblemStatisticsMap', 
  $r->print("\n".'<form name=stat method=post action="/adm/statistics" >');                            'All Maps');
       } elsif(defined($ENV{'form.ProblemAnalysis'})) {
  my $content = $ENV{'form.sort'};          $cache->{'GoToPage'} = 'ProblemAnalysis';
  if ($content eq '' || $content eq 'Return to Menu') {          &CheckFormElement($cache, 'Interval', 'Interval', '1');
     my $Ptr = '<h3>';      } elsif(defined($ENV{'form.DoDiffGraph'})) {
     $Ptr .= '<input type=submit name=sort value="Problem Evaluation"/>';#General Statistics"/>';          $cache->{'GoToPage'} = 'DoDiffGraph';
     $Ptr .= '<br><br>';      } elsif(defined($ENV{'form.PercentWrongGraph'})) {
     $Ptr .= '<input type=submit name=sort value="Student Assessment"/>';          $cache->{'GoToPage'} = 'PercentWrongGraph';
     $Ptr .= '<br><br>';      } elsif(defined($ENV{'form.ActivityLog'})) {
 #    $Ptr .= '<input type=submit name=sort value=Discrimination>';#"Problem Evaluation"/>';          $cache->{'GoToPage'} = 'ActivityLog';
     $Ptr .= '</h3>';      } else {
     $r->print( $Ptr );          $cache->{'GoToPage'} = 'Menu';
       }  
  else {  
     &initial();  
     &ClassList();  
     if ( $content eq 'Discrimination' || #'Problem Evaluation' ||  
                  $content eq 'Recalculate Discrimintion Factor' ) {  
  &CreateDiscFac();  
     }  
     elsif ( $content eq 'Student Assessment' ||   
                     $content eq 'Create Student Report' ) {  
  &StudentOptions();  
  &StudentReport($CurStu,$StuBox{"$CurStu"});  
     }  
     else {  
  &PreStatTable();  
     }  
  }  
  $r->print("\n".'</form>'.  
                   "\n".'</body>'.  
                   "\n".'</html>');  
  $r->rflush();  
     }      }
   
       &CheckFormElement($cache, 'Status', 'Status', 'Active');
   
       return;
 }  }
   
 sub StudentOptions {  =pod
     my $OpSel5='';  
     $CurStu = $ENV{'form.student'};  =item &SortStudents()
     if ( $CurStu eq '' ) {   
         $CurStu = 'All Students';  Determines which students to display and in which order.  Which are 
         $OpSel5 = 'selected';  displayed are determined by their status(active/expired).  The order
     }  is determined by the sort button pressed (default to username).  The
     my $Ptr ='';  type of sorting is username, lastname, or section.
 # ----------------------------------- Loading the Students Combobox  
     $Ptr .= '<br><b>Select Student</b>'."\n".  =over 4
            '<select name="student">'."\n".   
     '<option '.$OpSel5.'>All Students</option>';                               Input: $students, $CacheData
     foreach my $key ( sort keys %StuBox ) {            
  $Ptr .= '<option';  
  if ($CurStu eq $key) {$Ptr .= ' selected';}       
         $Ptr .= '>'.$key."</option>\n";       
     }  
     $Ptr .= '</select>';  
     $Ptr .= '<br><input type="submit" name="sort" value="Create Student Report" />';  
     $r->print( $Ptr );  
     $r->rflush();  
 }  
   
 sub GetStatus {  
   
     $OpSelDis1='';  
     $OpSelDis2='';  
     $OpSel1='';  
     $OpSel2='';  
     $OpSel3='';  
     $OpSel4='';  
   
 #    if ( $ENV{'form.DisType'} eq 'Total Number of Correct Answers' ) {   
 # $OpSelDis1='selected';   
 # $CurDis=0;  
 #    }  
 #    else { $OpSel2 = 'selected'; $CurDis = 1;}  
   
     if ( $ENV{'form.order'} eq 'Descending' ) { $OpSel2='selected'; }  $students: A array pointer to a list of students (username:domain)
     else { $OpSel1 = 'selected'; }  
     $CurMap = $ENV{'form.maps'};  $CacheData: A pointer to the hash tied to the cached data
     if ( $CurMap eq '' ) {   
  $CurMap = 'All Maps';  Output: \@order
  $OpSel3 = 'selected';  
     }  @order: An ordered list of students (username:domain)
     $CurSec = $ENV{'form.section'};  
     if ( $CurSec eq '' ) {   =back
  $CurSec = 'All Sections';  
         $OpSel4 = 'selected';  =cut
   
   sub SortStudents {
       my ($cache)=@_;
   
       my @students = split(':::',$cache->{'NamesOfStudents'});
       my @sorted1Students=();
       foreach (@students) {
           if($cache->{'Status'} eq 'Any' || 
              $cache->{$_.':Status'} eq $cache->{'Status'}) {
               push(@sorted1Students, $_);
           }
     }      }
   
       my $sortBy = '';
       if(defined($cache->{'sort'})) {
           $sortBy = ':'.$cache->{'sort'};
       }
       my @order = sort { $cache->{$a.$sortBy} cmp $cache->{$b.$sortBy} ||
                          $cache->{$a.':fullname'} cmp $cache->{$b.':fullname'} } 
                   @sorted1Students;
   
       return \@order;
 }  }
   
   sub PrepareData {
       my ($c, $cacheDB)=@_;
   
 sub MapSecOptions {      # Test for access to the cache data
 # ----------------------------------- Loading the Maps Combobox      my $courseID=$ENV{'request.course.id'};
     my $Ptr = '<br>';      my $isRecalculate=0;
     $Ptr .= '<br><input type="submit" name="sort" value="Return to Menu" />';      if(defined($ENV{'form.Recalculate'})) {
     $Ptr .= '<br><b> Select &nbsp; Map &nbsp; &nbsp; </b>'."\n".          $isRecalculate=1;
            '<select name="maps">'."\n".       }
     '<option '.$OpSel3.'>All Maps</option>';                               
     foreach my $key ( sort keys %maps ) {                my $isCached = &Apache::loncoursedata::TestCacheData($cacheDB, 
  $Ptr .= '<option';                                                           $isRecalculate);
         if ($CurMap eq $key) {$Ptr .= ' selected';}           if($isCached < 0) {
  $Ptr .= '>'.$key."</option>\n";               return "Unable to tie hash to db file.";
       }
   
       # Download class list information if not using cached data
       my %cache;
       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_WRCREAT,0640)) {
           return "Unable to tie hash to db file.";
       }
   
       if(!$isCached) {
           my $processTopResourceMapReturn=
               &Apache::loncoursedata::ProcessTopResourceMap(\%cache, $c);
           if($processTopResourceMapReturn ne 'OK') {
               untie(%cache);
               return $processTopResourceMapReturn;
           }
     }      }
     $Ptr .= '</select>';  
     $Ptr .= '&nbsp;&nbsp;&nbsp;';  
   
 # ----------------------------------- Loading the Sections Combobox      if($c->aborted()) {
     $Ptr .= '<br><b>Select Section</b>'."\n".          untie(%cache);
            '<select name="section">'."\n".           return 'aborted'; 
     '<option '.$OpSel4.'>All Sections</option>';                                   }
     foreach my $key ( sort keys %section ) {            
  $Ptr .= '<option';      my $classlist=&Apache::loncoursedata::DownloadClasslist($courseID,
         if ($CurSec eq $key) {$Ptr .= ' selected';}                                                       $cache{'ClasslistTimestamp'},
  $Ptr .= '>'.$key."</option>"."\n";                                                       $c);
       foreach (keys(%$classlist)) {
           if(/^(con_lost|error|no_such_host)/i) {
               untie(%cache);
               return "Error getting student data.";
           }
     }      }
     $Ptr .= '</select>'."\n";  
   
     $r->print( $Ptr );      if($c->aborted()) {
           untie(%cache);
           return 'aborted'; 
       }
   
       # Active is a temporary solution, remember to change
       Apache::loncoursedata::ProcessClasslist(\%cache,$classlist,$courseID,$c);
       if($c->aborted()) {
           untie(%cache);
           return 'aborted'; 
       }
   
       &ProcessFormData(\%cache);
       my $students = &SortStudents(\%cache);
   
       if($cache{'download'} ne 'false') {
           my $who = $cache{'download'};
           my $courseData = 
               &Apache::loncoursedata::DownloadStudentCourseInformation(
                                                $who, $courseID, 
                                                $cache{$who.':lastDownloadTime'});
           &Apache::loncoursedata::ProcessStudentData(\%cache, $courseData, $who);
           $cache{'download'} = 'false';
       } elsif($cache{'DownloadAll'} ne 'false') {
           my @allStudents;
           if($cache{'DownloadAll'} eq 'sorted') {
               @allStudents = @$students;
           } else {
               @allStudents = split(':::', $cache{'NamesOfStudents'});
           }
           foreach (@allStudents) {
               my $courseData = 
                   &Apache::loncoursedata::DownloadStudentCourseInformation(
                                                $_, $courseID, 
                                                $cache{$_.':lastDownloadTime'});
               &Apache::loncoursedata::ProcessStudentData(\%cache, $courseData, 
                                                          $_);
               if($c->aborted()) {
                   untie(%cache);
                   return 'aborted'; 
               }
           }
           $cache{'DownloadAll'} = 'false';
       }
   
       if($c->aborted()) {
           untie(%cache);
           return 'aborted'; 
       }
   
       if($c->aborted()) {
           untie(%cache);
           return 'aborted'; 
       }
   
       untie(%cache);
   
       return ('OK', $students);
   }
   
   # Create progress
   sub Create_PrgWin {
       $r->print(<<ENDPOP);
       <script>
       popwin=open('','popwin','width=400,height=100');
       popwin.document.writeln('<html><body bgcolor="#88DDFF">'+
         '<title>LON-CAPA Statistics</title>'+
         '<h4>Computation Progress</h4>'+
         '<form name=popremain>'+
         '<input type=text size=35 name=remaining value=Starting></form>'+
         '</body></html>');
       popwin.document.close();
       </script>
   ENDPOP
   
     $r->rflush();      $r->rflush();
 }  }
   
   # update progress
   sub Update_PrgWin {
       my ($totalStudents,$index,$name)=@_;
       $r->print('<script>popwin.document.popremain.remaining.value="'.
                 'Computing '.$index.'/'.$totalStudents.': '.
                 $name.'";</script>');
       $r->rflush();
   }
   
 # ================================================================ Main Handler  # close Progress Line
   sub Close_PrgWin {
       $r->print('<script>popwin.close()</script>');
       $r->rflush(); 
   }
   
 sub handler {  # For loading the colored table for display or un-colored for print
     $r=shift;  sub setbgcolor {
       my $PrintTable=shift;
       undef %color;
       if ($PrintTable){
    $color{"gb"}="#FFFFFF";
    $color{"red"}="#FFFFFF";
    $color{"yellow"}="#FFFFFF";
    $color{"green"}="#FFFFFF";
    $color{"purple"}="#FFFFFF";
       } else {
    $color{"gb"}="#DDFFFF";
    $color{"red"}="#FFDDDD";
    $color{"yellow"}="#EEFFCC";
    $color{"green"}="#DDFFDD";
    $color{"purple"}="#FFDDFF";
       }
   
     if (&Apache::lonnet::allowed('vgr',$ENV{'request.course.id'})) {      return;
 # ------------------------------------------- Set document type for header only  }
  if ($r->header_only) {  
     if ($ENV{'browser.mathml'}) {  
  $r->content_type('text/xml');  
     }   
     else {  
  $r->content_type('text/html');  
     }  
     $r->send_http_header;  
     return OK;  
  }      
  my $requrl=$r->uri;  
 # ----------------------------------------------------------------- Tie db file  
   
  undef %hash;  sub initial {
       undef %hash;
       undef %CachData;
       undef %GraphDat;
       undef %ConceptData;
       undef $GData;
   }
   
  if ($ENV{'request.course.fn'}) {  #---- END HELPER FUNCTIONS ---------------------------------------------------
     my $fn=$ENV{'request.course.fn'};  
     if (-e "$fn.db") {  
  if (tie(%hash,'GDBM_File',"$fn.db",&GDBM_READER,0640)) {  
 # ------------------------------------------------------------------- Hash tied  
     $r->content_type('text/html');  
     $r->send_http_header;  
     &Menu();  
  }  
  else {  
     $r->content_type('text/html');  
     $r->send_http_header;  
     $r->print('<html><body>Coursemap undefined.</body></html>');  
  }  
 # ------------------------------------------------------------------ Untie hash  
  unless (untie(%hash)) {  
     &Apache::lonnet::logthis("<font color=blue>WARNING: ".  
                             "Could not untie coursemap $fn (browse).</font>");   
  }  
   
 # -------------------------------------------------------------------- All done  sub BuildProblemStatisticsPage {
  return OK;      my ($cacheDB, $students, $courseID, $c)=@_;
 # ----------------------------------------------- Errors, hash could no be tied  
     }      my %cache;
  }       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER,0640)) {
  else {          $r->print('<html><body>Unable to tie database.</body></html>');
     $ENV{'user.error.msg'}="$requrl:bre:0:0:Course not initialized";          return;
     return HTTP_NOT_ACCEPTABLE;   
  }  
     }      }
     else {  
       my $Ptr = '';
       $Ptr .= '<table border="0"><tbody>';
       $Ptr .= '<tr><td align="right"><b>Select Map</b></td>'."\n";
       $Ptr .= '<td align="left">';
       $Ptr .= &Apache::lonhtmlcommon::MapOptions(\%cache, 'ProblemStatistics');
       $Ptr .= '</td></tr>'."\n";
       $r->print($Ptr);
       $r->print(&AscendOrderOptions());
       $r->print(&ProblemStatisticsButtons(\%cache));
       $r->print('</table>');
   
       $r->print(&ProblemStatisticsLegend());
   
       untie(%cache);
       foreach (@$students) {
           my $courseData = 
               &Apache::loncoursedata::DownloadStudentCourseInformation($_, 
                                                                       $courseID);
           last if ($c->aborted());
           if(tie(%cache,'GDBM_File',$cacheDB,&GDBM_WRCREAT,0640)) {
               &Apache::loncoursedata::ProcessStudentData(\%cache, 
                                                          $courseData, $_);
               untie(%cache);
           }
       }
       if($c->aborted()) { return; }
   
       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER,0640)) {
           $r->print('<html><body>Unable to tie database.</body></html>');
           return;
       }
       my $discriminantFactor;
       my @list=();
       foreach (@$students) {
           $discriminantFactor = &ExtractStudentData(\%cache, $_, \@list);
       }
   
       my ($upper, $lower) = &Discriminant($discriminantFactor);
       my %Header = (0,"Homework Sets Order",1,"#Stdnts",2,"Tries",3,"Mod",
                     4,"Mean",5,"#YES",6,"#yes",7,"%Wrng",8,"DoDiff",
                     9,"S.D.",10,"Skew.",11,"D.F.1st",12,"D.F.2nd", 13, "Disc.");
       &BuildStatisticsTable(\%cache, $discriminantFactor, \@list, \%Header, 
                              $students);
   
       untie(%cache);
   
       return;
   }
   
   sub BuildDiffGraph {
       my ($courseID)=@_;
   
       my $graphData = &GetGraphData('DiffGraph', $courseID);
       $r->print('<IMG src="/cgi-bin/graph.gif?'.$graphData.'" />');
   
       return;
   }
   
   sub BuildWrongGraph {
       my ($courseID)=@_;
   
       my $graphData = &GetGraphData('WrongGraph', $courseID);
       $r->print('<IMG src="/cgi-bin/graph.gif?'.$graphData.'" />');
   
       return;
   }
   
   sub BuildAnalyzePage {
       my ($cacheDB, $students, $courseID)=@_;
   
       my %cache;
       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER,0640)) {
           $r->print('<html><body>Unable to tie database.</body></html>');
           return;
       }
   
       &ShowOpGraph(\%cache, $students, $courseID);
   
       untie(%cache);
   
       return;
   }
   
   sub BuildProblemAnalysisPage {
       my ($cacheDB)=@_;
   
       my %cache;
       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER,0640)) {
           $r->print('<html><body>Unable to tie database.</body></html>');
           return;
       }
   
       $r->print(&IntervalOptions());
       $r->print(&OptionResponseTable(\%cache));
   
       untie(%cache);
   
       return;
   }
   
   sub BuildStudentAssessmentPage {
       my ($cacheDB, $students, $courseID, $c)=@_;
   
       my %cache;
   
       my $Ptr = '';
       $Ptr .= '<table border="0"><tbody>';
       $r->print($Ptr);
   
       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER,0640)) {
           $r->print('<html><body>Unable to tie database.</body></html>');
           return;
       }
   
       my $selectedName = $cache{'StudentAssessmentStudent'};
       for(my $index=0; 
           ($selectedName ne 'All Students') && ($index<(scalar @$students)); 
           $index++) {
           my $fullname = $cache{$students->[$index].':fullname'};
           if($fullname eq $selectedName) {
               if($cache{'StudentAssessmentMove'} eq 'next') {
                   if($index == ((scalar @$students) - 1)) {
                       $selectedName = $students->[0];
                   } else {
                       $selectedName = $students->[$index+1];
                   }
               } elsif($cache{'StudentAssessmentMove'} eq 'previous') {
                   if($index == 0) {
                       $selectedName = $students->[-1];
                   } else {
                       $selectedName = $students->[$index-1];
                   }
               } else {
                   $selectedName = $students->[$index];
               }
               last;
           }
       }
   
       $Ptr .= '<tr><td align="right"><b>Select Map</b></td>'."\n";
       $Ptr .= '<td align="left">';
       $Ptr .= &Apache::lonhtmlcommon::MapOptions(\%cache, 'StudentAssessment');
       $Ptr .= '</td></tr>'."\n";
       $Ptr .= '<tr><td align="right"><b>Select Student</b></td>'."\n";
       $Ptr .= '<td align="left">'."\n";
       $Ptr .= &Apache::lonhtmlcommon::StudentOptions(\%cache, $students, 
                                                      $selectedName, 
                                                      'StudentAssessment');
       $Ptr .= '</td></tr>'."\n";
       untie(%cache);
   
       $Ptr .= '<tr><td></td><td align="left">';
       $Ptr .= '<input type="submit" name="CreateStudentAssessment" ';
       $Ptr .= 'value="Create Student Report" />';
       $Ptr .= '&nbsp&nbsp&nbsp';
       $Ptr .= '<input type="submit" name="PreviousStudent" ';
       $Ptr .= 'value="Previous Student" />';
       $Ptr .= '&nbsp&nbsp&nbsp';
       $Ptr .= '<input type="submit" name="NextStudent" ';
       $Ptr .= 'value="Next Student" />';
       $Ptr .= '&nbsp&nbsp&nbsp';
       $Ptr .= '</td></tr></tbody></table>'."\n";
       $r->print($Ptr);
   
       if($selectedName eq 'No Student Selected') {
    $r->print('<h3><font color=blue>WARNING: ');
           $r->print('Please select a student</font></h3>');
           return;
       }
   
       my $selected=0;
       foreach (@$students) {
           next if ($_ ne $selectedName && 
                    $selectedName ne 'All Students');
           $selected = 1;
           my $courseData = 
               &Apache::loncoursedata::DownloadStudentCourseInformation($_, 
                                                                       $courseID);
           last if ($c->aborted());
           if(tie(%cache,'GDBM_File',$cacheDB,&GDBM_WRCREAT,0640)) {
               &Apache::loncoursedata::ProcessStudentData(\%cache, 
                                                          $courseData, $_);
               if(!$c->aborted()) { $r->print(&StudentReport(\%cache, $_)); }
               untie(%cache);
           }
       }
       if($selected == 0) {
    $r->print('<h3><font color=blue>WARNING: ');
           $r->print('Please select a student</font></h3>');
           return;
       }
   
       return;
   }
   
   sub BuildClasslist {
       my ($cacheDB,$students,$studentInformation,$headings,$spacePadding)=@_;
   
       my %cache;
       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER,0640)) {
           return '<html><body>Unable to tie database.</body></html>';
       }
   
       my $Str='';
       $Str .= '<table border="0"><tr><td bgcolor="#777777">'."\n";
       $Str .= '<table border="0" cellpadding="3"><tr bgcolor="#e6ffff">'."\n";
   
       my $displayString = '<td align="left"><a href="/adm/statistics?';
       $displayString .= 'sort=LINKDATA">DISPLAYDATA&nbsp</a></td>'."\n";
       $Str .= &Apache::lonhtmlcommon::CreateStudentInformationHeadings(\%cache,
                                                              $studentInformation,
                                                              $headings,
                                                              $displayString);
       $Str .= '<td align="left">';
       $Str .= '<a href="/adm/statistics?sort=lastDownloadTime">';
       $Str .= 'Last Updated&nbsp&nbsp</a></td>'."\n";
       $Str .= '</tr>'."\n";
       my $alternate=0;
       foreach (@$students) {
           my ($username, $domain) = split(':', $_);
           if($alternate) {
               $Str .= '<tr bgcolor="#ffffe6"><td>';
           } else {
               $Str .= '<tr bgcolor="#ffffc6"><td>';
           }
           $alternate = ($alternate + 1) % 2;
           foreach my $data (@$studentInformation) {
               if($data eq 'fullname') {
                   $Str .= '<a href="/adm/statistics?reportSelected=';
                   $Str .= &Apache::lonnet::escape('Student Assessment').'">';
               }
   
               $Str .= $cache{$_.':'.$data}.'&nbsp';
   
               if($data eq 'fullname') {
                   $Str .= '</a>';
               }
   
               $Str .= '</td><td>';
           }
   
           $Str .= '<a href="/adm/statistics?download='.$_.'">';
           my $downloadTime = $cache{$_.':lastDownloadTime'};
           if($downloadTime ne 'Not downloaded') {
               $downloadTime = localtime($downloadTime);
           }
           $Str .= $downloadTime;
   
           $Str .= '&nbsp</a></td></tr>'."\n";
       }
   
       $Str .= '</table></td></tr></table>'."\n";
   
       untie(%cache);
   
       return $Str;
   }
   
   sub BuildStatistics {
       my ($r)=@_;
   
       my $c = $r->connection;
       my @studentInformation=('fullname','section','id','domain','username');
       my @headings=('Full Name', 'Section', 'PID', 'Domain', 'User Name');
       my $spacePadding = '   ';
       my %reports = ('classlist'          => 'Class list',
                      'problem_statistics' => 'Problem Statistics',
                      'student_assessment' => 'Student Assessment',
                      'reportSelected'     => 'Class list');
   
       my %cache;
       my $courseID=$ENV{'request.course.id'};
       my $cacheDB = "/home/httpd/perl/tmp/$ENV{'user.name'}".
                     "_$ENV{'user.domain'}_$courseID\_statistics.db";
   
       &setbgcolor(0);
       my ($returnValue, $students) = &PrepareData($c, $cacheDB);
       if($returnValue ne 'OK') {
           $r->print('<html><body>'.$returnValue."\n".'</body></html>');
           return OK;
       }
   
       my $GoToPage;
       if(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER,0640)) {
           $GoToPage = $cache{'reportSelected'};
           $reports{'reportSelected'} = $cache{'reportSelected'};
   #        if(defined($cache{'reportKey'}) && $cache{'reportKey'} ne 'false') {
   #            $reports{$cache{'reportKey'}} = $cache{'reportSelected'};
   #        }
   
           if(defined($cache{'OptionResponses'})) {
               $reports{'problem_analysis'} = 'Problem Analysis';
           }
   
           $r->print(&Apache::lonhtmlcommon::Title('LON-CAPA Statistics'));
           $r->print('<form name="Statistics" ');
           $r->print('method="post" action="/adm/statistics">');
           $r->print(&Apache::lonhtmlcommon::CreateStatisticsMainMenu(
                                                                $cache{'Status'}, 
                                                                \%reports));
           untie(%cache);
       } else {
           $r->print('<html><body>Unable to tie database.</body></html>');
           return OK;
       }
   
       if($GoToPage eq 'Activity Log') {
           &Activity();
       } elsif($GoToPage eq 'Problem Statistics') {
           &BuildProblemStatisticsPage($cacheDB, $students, $courseID, $c);
       } elsif($GoToPage eq 'Problem Analysis') {
           &BuildProblemAnalysisPage($cacheDB);
       } elsif($GoToPage eq 'Student Assessment') {
           &BuildStudentAssessmentPage($cacheDB, $students, $courseID, $c);
       } elsif($GoToPage eq 'Analyze') {
           &BuildAnalyzePage($cacheDB, $students, $courseID);
       } elsif($GoToPage eq 'DoDiffGraph') {
           &BuildDiffGraph($courseID);
       } elsif($GoToPage eq 'PercentWrongGraph') {
           &BuildWrongGraph($courseID);
       } elsif($GoToPage eq 'Class list') {
           $r->print(&BuildClasslist($cacheDB, $students, \@studentInformation,
                                     \@headings, $spacePadding));
       }
   
       $r->print('</form>'."\n");
       $r->print("\n".'</body>'."\n".'</html>');
       $r->rflush();
   
       return OK;
   }
   
   # ================================================================ Main Handler
   
   sub handler {
       $r=shift;
       &initial();
   
       unless(&Apache::lonnet::allowed('vgr',$ENV{'request.course.id'})) {
         $ENV{'user.error.msg'}=          $ENV{'user.error.msg'}=
         $r->uri.":vgr:0:0:Cannot view grades for complete course";          $r->uri.":vgr:0:0:Cannot view grades for complete course";
           return HTTP_NOT_ACCEPTABLE; 
       }
   
       # Set document type for header only
       if($r->header_only) {
           if ($ENV{'browser.mathml'}) {
               $r->content_type('text/xml');
           } else {
               $r->content_type('text/html');
           }
           &Apache::loncommon::no_cache($r);
           $r->send_http_header;
           return OK;
       }
   
       unless($ENV{'request.course.fn'}) {
    my $requrl=$r->uri;
           $ENV{'user.error.msg'}="$requrl:bre:0:0:Course not initialized";
         return HTTP_NOT_ACCEPTABLE;           return HTTP_NOT_ACCEPTABLE; 
     }      }
 }  
 1;  
 __END__  
   
       $r->content_type('text/html');
       $r->send_http_header;
   
       &BuildStatistics($r);
   
       return OK;
   }
   1;
   __END__

Removed from v.1.3  
changed lines
  Added in v.1.29


FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>