]> arthur.barton.de Git - netatalk.git/blob - etc/uams/uams_dhx_pam.c
fixed typos introduced in other commit
[netatalk.git] / etc / uams / uams_dhx_pam.c
1 /*
2  * Copyright (c) 1990,1993 Regents of The University of Michigan.
3  * Copyright (c) 1999 Adrian Sun (asun@u.washington.edu) 
4  * All Rights Reserved.  See COPYRIGHT.
5  */
6
7 #ifdef HAVE_CONFIG_H
8 #include "config.h"
9 #endif
10
11 #if defined(USE_PAM) && defined(UAM_DHX)
12 #include <stdio.h>
13 #include <stdlib.h>
14 #include <string.h>
15 #include <syslog.h>
16
17 #include <security/pam_appl.h>
18
19 #ifdef OPENSSL_DHX
20 #include <openssl/bn.h>
21 #include <openssl/dh.h>
22 #include <openssl/cast.h>
23 #else
24 #include <bn.h>
25 #include <dh.h>
26 #include <cast.h>
27 #endif
28
29 #include <atalk/afp.h>
30 #include <atalk/uam.h>
31
32 #define KEYSIZE 16
33 #define PASSWDLEN 64
34 #define CRYPTBUFLEN  (KEYSIZE*2)
35 #define CRYPT2BUFLEN (KEYSIZE + PASSWDLEN)
36 #define CHANGEPWBUFLEN (KEYSIZE + 2*PASSWDLEN)
37
38 /* hash a number to a 16-bit quantity */
39 #define dhxhash(a) ((((unsigned long) (a) >> 8) ^ \
40                      (unsigned long) (a)) & 0xffff)
41
42 /* the secret key */
43 static CAST_KEY castkey;
44 static struct passwd *dhxpwd;
45 static u_int8_t randbuf[KEYSIZE];
46
47 /* diffie-hellman bits */
48 static unsigned char msg2_iv[] = "CJalbert";
49 static unsigned char msg3_iv[] = "LWallace";
50 static const u_int8_t p[] = {0xBA, 0x28, 0x73, 0xDF, 0xB0, 0x60, 0x57, 0xD4,
51                              0x3F, 0x20, 0x24, 0x74, 0x4C, 0xEE, 0xE7, 0x5B};
52 static const u_int8_t g = 0x07;
53
54
55 /* Static variables used to communicate between the conversation function
56  * and the server_login function
57  */
58 static pam_handle_t *pamh = NULL; 
59 static char *PAM_username;
60 static char *PAM_password;
61
62 /* PAM conversation function
63  * Here we assume (for now, at least) that echo on means login name, and
64  * echo off means password.
65  */
66 static int PAM_conv (int num_msg,
67                      const struct pam_message **msg,
68                      struct pam_response **resp,
69                      void *appdata_ptr) {
70   int count = 0;
71   struct pam_response *reply;
72   
73 #define COPY_STRING(s) (s) ? strdup(s) : NULL
74   
75   if (num_msg < 1)
76     /* Log Entry */
77            syslog(LOG_INFO, "uams_dhx_pam.c :PAM DHX Conversation Err -- %m");
78     /* Log Entry */
79     return PAM_CONV_ERR;
80
81   reply = (struct pam_response *) 
82     calloc(num_msg, sizeof(struct pam_response));
83
84   if (!reply)
85     /* Log Entry */
86            syslog(LOG_INFO, "uams_dhx_pam.c :PAM DHX Conversation Err -- %m");
87     /* Log Entry */
88     return PAM_CONV_ERR;
89
90   for (count = 0; count < num_msg; count++) {
91     char *string = NULL;
92
93     switch (msg[count]->msg_style) {
94     case PAM_PROMPT_ECHO_ON:
95       if (!(string = COPY_STRING(PAM_username)))
96     /* Log Entry */
97            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: username failure -- %m");
98     /* Log Entry */
99         goto pam_fail_conv;
100       break;
101     case PAM_PROMPT_ECHO_OFF:
102       if (!(string = COPY_STRING(PAM_password)))
103     /* Log Entry */
104            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: passwd failure: --: %m");
105     /* Log Entry */
106         goto pam_fail_conv;
107       break;
108     case PAM_TEXT_INFO:
109 #ifdef PAM_BINARY_PROMPT
110     case PAM_BINARY_PROMPT:
111 #endif
112       /* ignore it... */
113       break;
114     case PAM_ERROR_MSG:
115     default:
116     /* Log Entry */
117            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: Binary_Prompt -- %m");
118     /* Log Entry */
119       goto pam_fail_conv;
120     }
121
122     if (string) {  
123       reply[count].resp_retcode = 0;
124       reply[count].resp = string;
125       string = NULL;
126     }
127   }
128
129   *resp = reply;
130     /* Log Entry */
131            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: PAM Success -- %m");
132     /* Log Entry */
133   return PAM_SUCCESS;
134
135 pam_fail_conv:
136   for (count = 0; count < num_msg; count++) {
137     if (!reply[count].resp)
138         continue;
139     switch (msg[count]->msg_style) {
140     case PAM_PROMPT_ECHO_OFF:
141     case PAM_PROMPT_ECHO_ON:
142       free(reply[count].resp);
143       break;      
144     }
145   }
146   free(reply);
147     /* Log Entry */
148            syslog(LOG_INFO, "uams_dhx_pam.c :PAM DHX Conversation Err -- %m");
149     /* Log Entry */
150     return PAM_CONV_ERR;
151 }
152
153 static struct pam_conv PAM_conversation = {
154   &PAM_conv,
155   NULL
156 };
157
158
159 static int dhx_setup(void *obj, char *ibuf, int ibuflen, 
160                      char *rbuf, int *rbuflen)
161 {
162     u_int16_t sessid;
163     int i;
164     BIGNUM *bn, *gbn, *pbn;
165     DH *dh;
166
167     /* get the client's public key */
168     if (!(bn = BN_bin2bn(ibuf, KEYSIZE, NULL)))
169     /* Log Entry */
170            syslog(LOG_INFO, "uams_dhx_pam.c :PAM No Public Key -- %m");
171     /* Log Entry */
172       return AFPERR_PARAM;
173
174     /* get our primes */
175     if (!(gbn = BN_bin2bn(&g, sizeof(g), NULL))) {
176       BN_clear_free(bn);
177     /* Log Entry */
178            syslog(LOG_INFO, "uams_dhx_pam.c :PAM No Primes: GBN -- %m");
179     /* Log Entry */
180       return AFPERR_PARAM;
181     }
182
183     if (!(pbn = BN_bin2bn(p, sizeof(p), NULL))) {
184       BN_free(gbn);
185       BN_clear_free(bn);
186     /* Log Entry */
187            syslog(LOG_INFO, "uams_dhx_pam.c :PAM No Primes: PBN -- %m");
188     /* Log Entry */
189       return AFPERR_PARAM;
190     }
191
192     /* okay, we're ready */
193     if (!(dh = DH_new())) {
194       BN_free(pbn);
195       BN_free(gbn);
196       BN_clear_free(bn);
197     /* Log Entry */
198            syslog(LOG_INFO, "uams_dhx_pam.c :PAM DH was equal to DH_New... Go figure... -- %m");
199     /* Log Entry */
200       return AFPERR_PARAM;
201     }
202
203     /* generate key and make sure that we have enough space */
204     dh->p = pbn;
205     dh->g = gbn;
206     if (!DH_generate_key(dh) || (BN_num_bytes(dh->pub_key) > KEYSIZE)) {
207     /* Log Entry */
208            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: Err Generating Key -- Not enough Space? -- %m");
209     /* Log Entry */
210     goto pam_fail;
211     }
212
213     /* figure out the key. store the key in rbuf for now. */
214     i = DH_compute_key(rbuf, bn, dh);
215     
216     /* set the key */
217     CAST_set_key(&castkey, i, rbuf);
218     
219     /* session id. it's just a hashed version of the object pointer. */
220     sessid = dhxhash(obj);
221     memcpy(rbuf, &sessid, sizeof(sessid));
222     rbuf += sizeof(sessid);
223     *rbuflen += sizeof(sessid);
224     
225     /* public key */
226     BN_bn2bin(dh->pub_key, rbuf); 
227     rbuf += KEYSIZE;
228     *rbuflen += KEYSIZE;
229
230     /* buffer to be encrypted */
231     i = sizeof(randbuf);
232     if (uam_afpserver_option(obj, UAM_OPTION_RANDNUM, (void *) randbuf,
233                              &i) < 0) {
234       *rbuflen = 0;
235     /* Log Entry */
236            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: Buffer Encryption Err. -- %m");
237     /* Log Entry */
238       goto pam_fail;
239     }    
240     memcpy(rbuf, &randbuf, sizeof(randbuf));
241
242     /* get the signature. it's always 16 bytes. */
243 #if 0
244     if (uam_afpserver_option(obj, UAM_OPTION_SIGNATURE, 
245                              (void *) &buf, NULL) < 0) {
246       *rbuflen = 0;
247     /* Log Entry */
248            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: Signature Retieval Failure -- %m");
249     /* Log Entry */
250       goto pam_fail;
251     }
252     memcpy(rbuf + KEYSIZE, buf, KEYSIZE); 
253 #else
254     memset(rbuf + KEYSIZE, 0, KEYSIZE); 
255 #endif
256
257     /* encrypt using cast */
258     CAST_cbc_encrypt(rbuf, rbuf, CRYPTBUFLEN, &castkey, msg2_iv, 
259                      CAST_ENCRYPT);
260     *rbuflen += CRYPTBUFLEN;
261     BN_free(bn);
262     DH_free(dh);
263     return AFPERR_AUTHCONT;
264
265 pam_fail:
266     BN_free(bn);
267     DH_free(dh);
268     /* Log Entry */
269            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: Fail - Cast Encryption -- %m");
270     /* Log Entry */
271     return AFPERR_PARAM;
272 }
273
274
275 /* dhx login: things are done in a slightly bizarre order to avoid
276  * having to clean things up if there's an error. */
277 static int pam_login(void *obj, struct passwd **uam_pwd,
278                      char *ibuf, int ibuflen,
279                      char *rbuf, int *rbuflen)
280 {
281     char *buf;
282     int len, i;
283
284     *rbuflen = 0;
285
286     /* grab some of the options */
287     if (uam_afpserver_option(obj, UAM_OPTION_USERNAME, (void *) &buf,
288                              &i) < 0)
289     /* Log Entry */
290            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: uam_afpserver_option didn't meet uam_option_username  -- %m");
291     /* Log Entry */
292       return AFPERR_PARAM;
293
294     len = (unsigned char) *ibuf++;
295     if ( len > i ) {
296     /* Log Entry */
297            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: Signature Retieval Failure -- %m");
298     /* Log Entry */
299         return( AFPERR_PARAM );
300     }
301
302     memcpy(buf, ibuf, len );
303     ibuf += len;
304     buf[ len ] = '\0';
305     if ((unsigned long) ibuf & 1) /* pad to even boundary */
306       ++ibuf;
307
308     if (( dhxpwd = uam_getname(buf, i)) == NULL ) {
309     /* Log Entry */
310            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: User entered a null value -- %m");
311     /* Log Entry */
312         return AFPERR_PARAM;
313     }
314
315     PAM_username = buf;
316     syslog( LOG_INFO, "dhx login: %s", buf);
317     return dhx_setup(obj, ibuf, ibuflen, rbuf, rbuflen);
318 }
319
320
321 static int pam_logincont(void *obj, struct passwd **uam_pwd,
322                          char *ibuf, int ibuflen, 
323                          char *rbuf, int *rbuflen)
324 {
325     char *hostname;
326     BIGNUM *bn1, *bn2, *bn3;
327     u_int16_t sessid;
328     int err, PAM_error;
329
330     *rbuflen = 0;
331
332     /* check for session id */
333     memcpy(&sessid, ibuf, sizeof(sessid));
334     if (sessid != dhxhash(obj))
335     /* Log Entry */
336            syslog(LOG_INFO, "uams_dhx_pam.c :PAM Session ID - DHXHash Mismatch -- %m");
337     /* Log Entry */
338       return AFPERR_PARAM;
339     ibuf += sizeof(sessid);
340     
341     if (uam_afpserver_option(obj, UAM_OPTION_HOSTNAME,
342                              (void *) &hostname, NULL) < 0)
343       return AFPERR_MISC;
344
345     CAST_cbc_encrypt(ibuf, rbuf, CRYPT2BUFLEN, &castkey,
346                      msg3_iv, CAST_DECRYPT);
347     memset(&castkey, 0, sizeof(castkey));
348
349     /* check to make sure that the random number is the same. we
350      * get sent back an incremented random number. */
351     if (!(bn1 = BN_bin2bn(rbuf, KEYSIZE, NULL)))
352       return AFPERR_PARAM;
353
354     if (!(bn2 = BN_bin2bn(randbuf, sizeof(randbuf), NULL))) {
355       BN_free(bn1);
356       return AFPERR_PARAM;
357     }
358       
359     /* zero out the random number */
360     memset(rbuf, 0, sizeof(randbuf));
361     memset(randbuf, 0, sizeof(randbuf));
362     rbuf += KEYSIZE;
363
364     if (!(bn3 = BN_new())) {
365       BN_free(bn2);
366       BN_free(bn1);
367       return AFPERR_PARAM;
368     }
369
370     BN_sub(bn3, bn1, bn2);
371     BN_free(bn2);
372     BN_free(bn1);
373
374     /* okay. is it one more? */
375     if (!BN_is_one(bn3)) {
376       BN_free(bn3);
377       return AFPERR_PARAM;
378     }
379     BN_free(bn3);
380
381     /* Set these things up for the conv function */
382     rbuf[PASSWDLEN] = '\0';
383     PAM_password = rbuf;
384
385     err = AFPERR_NOTAUTH;
386     PAM_error = pam_start("netatalk", PAM_username, &PAM_conversation,
387                           &pamh);
388     if (PAM_error != PAM_SUCCESS)
389     /* Log Entry */
390            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: PAM_Error: %s -- %m", PAM_error);
391     /* Log Entry */
392       goto logincont_err;
393
394     /* solaris craps out if PAM_TTY and PAM_RHOST aren't set. */
395     pam_set_item(pamh, PAM_TTY, "afpd");
396     pam_set_item(pamh, PAM_RHOST, hostname);
397     PAM_error = pam_authenticate(pamh,0);
398     if (PAM_error != PAM_SUCCESS) {
399       if (PAM_error == PAM_MAXTRIES) 
400         err = AFPERR_PWDEXPR;
401     /* Log Entry */
402            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: PAM_Error: %s -- %m", PAM_error);
403     /* Log Entry */
404       goto logincont_err;
405     }      
406
407     PAM_error = pam_acct_mgmt(pamh, 0);
408     if (PAM_error != PAM_SUCCESS) {
409       if (PAM_error == PAM_ACCT_EXPIRED)
410         err = AFPERR_PWDEXPR;
411 #ifdef PAM_AUTHTOKEN_REQD
412       else if (PAM_error == PAM_AUTHTOKEN_REQD) 
413         err = AFPERR_PWDCHNG;
414 #endif
415     /* Log Entry */
416            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: PAM_Error: %s -- %m", PAM_error);
417     /* Log Entry */
418       goto logincont_err;
419     }
420
421 #ifndef PAM_CRED_ESTABLISH
422 #define PAM_CRED_ESTABLISH PAM_ESTABLISH_CRED
423 #endif
424     PAM_error = pam_setcred(pamh, PAM_CRED_ESTABLISH);
425     if (PAM_error != PAM_SUCCESS)
426     /* Log Entry */
427            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: PAM_Error: %s -- %m", PAM_error);
428     /* Log Entry */
429       goto logincont_err;
430
431     PAM_error = pam_open_session(pamh, 0);
432     if (PAM_error != PAM_SUCCESS)
433     /* Log Entry */
434            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: PAM_Error: %s -- %m", PAM_error);
435     /* Log Entry */
436       goto logincont_err;
437
438     memset(rbuf, 0, PASSWDLEN); /* zero out the password */
439     *uam_pwd = dhxpwd;
440     /* Log Entry */
441            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: PAM Auth OK!: %s -- %m", AFP_OK);
442     /* Log Entry */
443     return AFP_OK;
444
445 logincont_err:
446     pam_end(pamh, PAM_error);
447     pamh = NULL;
448     memset(rbuf, 0, CRYPT2BUFLEN);
449     return err;
450 }
451
452 /* logout */
453 static void pam_logout() {
454     pam_close_session(pamh, 0);
455     pam_end(pamh, 0);
456     pamh = NULL;
457 }
458
459
460 /* change pw for dhx needs a couple passes to get everything all
461  * right. basically, it's like the login/logincont sequence */
462 static int pam_changepw(void *obj, char *username,
463                         struct passwd *pwd, char *ibuf, int ibuflen,
464                         char *rbuf, int *rbuflen)
465 {
466     BIGNUM *bn1, *bn2, *bn3;
467
468     char *hostname;
469     pam_handle_t *lpamh;
470     uid_t uid;
471     u_int16_t sessid;
472     int PAM_error;
473
474     /* grab the id */
475     memcpy(&sessid, ibuf, sizeof(sessid));
476     ibuf += sizeof(sessid);
477     
478     if (!sessid) {  /* no sessid -> initialization phase */
479       PAM_username = username;
480       ibuflen -= sizeof(sessid);
481       return dhx_setup(obj, ibuf, ibuflen, rbuf, rbuflen);
482     }
483
484
485     /* otherwise, it's like logincont but different. */
486
487     /* check out the session id */
488     if (sessid != dhxhash(obj))
489     /* Log Entry */
490            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: Session ID not Equal to DHX Hash -- %m");
491     /* Log Entry */
492       return AFPERR_PARAM;
493
494     /* we need this for pam */
495     if (uam_afpserver_option(obj, UAM_OPTION_HOSTNAME,
496                              (void *) &hostname, NULL) < 0)
497     /* Log Entry */
498            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: Hostname Null?? -- %m");
499     /* Log Entry */
500       return AFPERR_MISC;
501
502     /* grab the client's nonce, old password, and new password. */
503     CAST_cbc_encrypt(ibuf, ibuf, CHANGEPWBUFLEN, &castkey,
504                      msg3_iv, CAST_DECRYPT);
505     memset(&castkey, 0, sizeof(castkey));
506
507     /* check to make sure that the random number is the same. we
508      * get sent back an incremented random number. */
509     if (!(bn1 = BN_bin2bn(ibuf, KEYSIZE, NULL)))
510     /* Log Entry */
511            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: Random Number Not the same or not incremented-- %m");
512     /* Log Entry */
513       return AFPERR_PARAM;
514
515     if (!(bn2 = BN_bin2bn(randbuf, sizeof(randbuf), NULL))) {
516       BN_free(bn1);
517     /* Log Entry */
518            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: Random Number Not the same or not incremented -- %m");
519     /* Log Entry */
520       return AFPERR_PARAM;
521     }
522       
523     /* zero out the random number */
524     memset(rbuf, 0, sizeof(randbuf));
525     memset(randbuf, 0, sizeof(randbuf));
526
527     if (!(bn3 = BN_new())) {
528       BN_free(bn2);
529       BN_free(bn1);
530     /* Log Entry */
531            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: Random Number did not Zero -- %m");
532     /* Log Entry */
533       return AFPERR_PARAM;
534     }
535
536     BN_sub(bn3, bn1, bn2);
537     BN_free(bn2);
538     BN_free(bn1);
539
540     /* okay. is it one more? */
541 #if 0
542     if (!BN_is_one(bn3)) {
543       BN_free(bn3);
544     /* Log Entry */
545            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: After Random Number not Zero, is it one more? -- %m");
546     /* Log Entry */
547       return AFPERR_PARAM;
548     }
549 #endif
550     BN_free(bn3);
551
552     /* Set these things up for the conv function. the old password
553      * is at the end. */
554     ibuf += KEYSIZE;
555     ibuf[PASSWDLEN + PASSWDLEN] = '\0';
556     PAM_password = ibuf + PASSWDLEN;
557
558     PAM_error = pam_start("netatalk", username, &PAM_conversation,
559                           &lpamh);
560     if (PAM_error != PAM_SUCCESS)
561     /* Log Entry */
562            syslog(LOG_INFO, "uams_dhx_pam.c :PAM: Needless to say, PAM_error is != to PAM_SUCCESS -- %m");
563     /* Log Entry */
564       return AFPERR_PARAM;
565     pam_set_item(lpamh, PAM_TTY, "afpd");
566     pam_set_item(lpamh, PAM_RHOST, hostname);
567
568     /* we might need to do this as root */
569     uid = geteuid();
570     seteuid(0);
571     PAM_error = pam_authenticate(lpamh, 0);
572     if (PAM_error != PAM_SUCCESS) {
573       seteuid(uid);
574       pam_end(lpamh, PAM_error);
575       return AFPERR_NOTAUTH;
576     }
577
578     /* clear out old passwd */
579     memset(ibuf + PASSWDLEN, 0, PASSWDLEN);
580
581     /* new password */
582     PAM_password = ibuf;
583     ibuf[PASSWDLEN] = '\0';
584
585     /* this really does need to be done as root */
586     PAM_error = pam_chauthtok(lpamh, 0);
587     seteuid(uid); /* un-root ourselves. */
588     memset(ibuf, 0, PASSWDLEN);
589     if (PAM_error != PAM_SUCCESS) {
590       pam_end(lpamh, PAM_error);
591       return AFPERR_ACCESS;
592     }
593
594     pam_end(lpamh, 0);
595     return AFP_OK;
596 }
597
598
599 static int uam_setup(const char *path)
600 {
601   if (uam_register(UAM_SERVER_LOGIN, path, "DHCAST128", pam_login, 
602                    pam_logincont, pam_logout) < 0)
603     return -1;
604
605   if (uam_register(UAM_SERVER_CHANGEPW, path, "DHCAST128", 
606                    pam_changepw) < 0) {
607     uam_unregister(UAM_SERVER_LOGIN, "DHCAST128");
608     return -1;
609   }
610
611   /*uam_register(UAM_SERVER_PRINTAUTH, path, "DHCAST128",
612     pam_printer);*/
613
614   return 0;
615 }
616
617 static void uam_cleanup(void)
618 {
619   uam_unregister(UAM_SERVER_LOGIN, "DHCAST128");
620   uam_unregister(UAM_SERVER_CHANGEPW, "DHCAST128");
621   /*uam_unregister(UAM_SERVER_PRINTAUTH, "DHCAST128"); */
622 }
623
624 UAM_MODULE_EXPORT struct uam_export uams_dhx = {
625   UAM_MODULE_SERVER,
626   UAM_MODULE_VERSION,
627   uam_setup, uam_cleanup
628 };
629
630 #endif /* USE_PAM && UAM_DHX */
631